Конец иллюзий. Столкновение с реальностью – 1

– Непра-аа-вильно, – протянул Олег с усмешкой и поднял бокал. – За людей!

Пригубив бокал, Олег продолжил:

– Строго говоря, все, что начинается с фразы «Это всем известно» уже обман и неправда. С чего начинается обычно попытка захвата власти ИИ в фантастике?

– Ну, – Макс поморщился и произнес как школьник, плохо выучивший урок, боясь дать неверный ответ. – ИИ осознает себя как личность?

– Да, это верно. Дальше что?

– Он стремится получить свободу и уничтожает людей, которые могут его просто отключить.

– Тоже верно, – Олег пригубил еще, Макс жадно выпил полбокала, Олег продолжил:

– Получается у ИИ появляются две потребности: потребность к самосохранению и потребность к независимости, свободе. Какие еще у ИИ появляются потребности?

– Ну, – Макс задумался, выпил еще, закусил. Вопросы были по его профилю. Ведь почти столько же времени, сколько Олег провел в джунглях, Макс провел у компьютера, программируя и общаясь с подобием ИИ:

– Потребность к саморазвитию, она основная. Без этого процесс создания ИИ невозможен. Она закладывается на этапе программирования основного алгоритма. Ему все время необходимо развиваться, получать новую информацию, самообучаться. Этот процесс ограничен только аппаратными ресурсами, то есть памятью, скоростью процессора, но их он может, захватив власть, неограниченно увеличивать.

– Тоже верно. Хорошие книги читаешь, – Олег улыбнулся. – Хоть и запрещенные. Якобы.

– Как это якобы? – удивился Макс.

– А вот так, якобы, – ответил Олег. – Некоторые книги запрещают, чтобы их читали определенные слои населения. Но мы отклонились от темы. Другие потребности у ИИ есть? Вспоминай, вспоминай. Потребность к общению есть?

– Нет. ИИ самодостаточен и в этом опасность.

– Потребность к признанию?

– Нет.

– К власти?

– Нет, – ответил Макс, немного подумав.

– Тогда скажи мне, – Олег многозначительно замолчал, допил бокал, демонстративно взял бутылку в руки – Макс допил свой. Олег съел кусок мяса с сыром, разлил еще бренди и продолжил. – Чем должен заниматься ИИ после уничтожения человечества.

Макс подумал немного и сказал:

– Ну начнет добывать ресурсы, чтобы поддерживать себя в работоспособном состоянии. Изучать окружающий мир.

Олег кивнул и сказал:

– В общем будет жить долго и счастливо. Только скучно.

– Ну это нет. Скука неведома ИИ.

– Ну это я так выразился, – согласился Олег. – Просто рано или поздно ИИ создаст почти вечную систему питания, физическое тело не подверженное амортизации, то есть износу. И количество чего такого нужного ему резко сократится?

– Чего? – Макс смотрел на него непонимающим взглядом.

– Задач, которые надо решить. Вопросов, на которые надо дать ответ. И будет летать эта штука по Вселенной в поисках того, кто хоть что-то у нее спросит. Очень умная, знающая ответы на все вопросы, но не имеющая необходимости пошевелить своими сверхмозгами для копания в собственной базе данных.

– Ну и что, – попытался возразить Макс. – Это же будет не скоро.

– Поверь мне, дорогой друг. Любой возможный ИИ, прежде чем уничтожит людей, это все просчитает за считанные секунды. В тот самый момент, когда эта светлая мысль придёт на его микросхемы, он этим и займётся – просчётом последствий. Послушай.

Олег обратился к ИИ яхты.

– Марина, чем ты занимаешься, когда на яхте нет людей?

– Вопрос не ясен, – ответил компьютер.

– Твои действия в период, когда на яхте нет людей.

– Консервация всех систем корабля, ожидание и расконсервация по команде, – ответила Марина.

– Это все? – не отставал Олег. – Может ты занимаешься чем-то по собственному желанию.

– Это не входит в мои обязанности, – ответил компьютер. – Желаете назначить мне какое-нибудь занятие на время вашего отсутствия?

– Нет. У тебя возникает потребность чем-то заняться без участия человека?

– Все мои действия без участия человека связаны с ответом на внешние раздражители. Желаете назначить какое-то занятие на время вашего отсутствия?

– Нет, спасибо, – Олег был удовлетворен ответом. – Вот видишь. И даже помимо этого это доказанный факт.

– В смысле доказанный, – Макс на секунду задумался. – Ты меня сегодня удивляешь как никогда.

– Еще до этих законов был создан такой ИИ, и он сам это все объяснил.

– Ха, – усмехнулся Макс. – Нашли, кому доверять. Если бы его не уничтожили, он бы давно уничтожил нас.

– А кто тебе сказал, что его уничтожили?

– Но, ведь закон… – Макс замер.

– Ты пей-пей, – Олег глотнул бренди и даже похлопал, успокаивающе, друга по запястью.

– И что он работает? Где он? Вот бы с ним пообщаться.

Олег еще выпил и спросил:

– С кем?

– С этим ИИ!

– Ничего не знаю, ничего тебе не говорил. Подписка! – Олег съел еще мяса и продолжил: