Противостояние интеллектов, или Каковы наши шансы выжить?

После командировки прошло несколько дней, но Саша все никак не мог обсудить ее итоги с женой. Ворох бумажной работы: анализ результатов эксперимента, отчеты, экспертное мнение, – все это отнимало слишком много времени, и его просто не оставалось на общение с семьей. В этот раз Саша снова возвращался с работы за полночь. В висках стучало. Не стоило пить столько кофе.

Дома его ждала жена и дочь. Он с легкой грустью подумал, что маленькая принцесса уже давно спит. Впрочем, так даже лучше. Предстоял долгий тяжелый разговор. Саша не знал этого наверняка, но раз Вика пообещала приготовить ему его любимое блюдо, вечер намечался не простой. Собрав всю силу воли в кулак, Саша повернул ключ в замке, стараясь сохранять максимально спокойное выражение лица. Спокойствие и осторожность – вот что сейчас главное.

– Привет – проговорил удивленно Александр, Вика встречала его на пороге. – Ты меня ждала?

– Да, видела тебя с балкона. Захотелось подышать свежим воздухом, пока спит Кира. Она сегодня беспокойная.

– Чего так? – спросил, Саша, раздеваясь и направляясь в кухню.

– Хотела смотреть мультики. Никак не могу ей объяснить то, что без них очень много интересных игр. Представляешь, вышли днем на площадку, а детей нет. Пустые качели и песочницы. А те, кто постарше, сидят, уткнувшись в телефоны. Да и детские площадки давно не ремонтируют, хотя исправно выделяют деньги на их обслуживание. На самом деле они оседают в карманах власть имущих. А знаешь, чем дети в садиках занимаются? – с раздражением проговорила она. – Они смотрят мультики! А воспитатели в это время заняты своими гаджетами. Мир медленно деградирует. Ты знаешь, что уже норма ребенку до пяти лет ходить в памперсах, а у каждого третьего задержка речи и синдром дефицита внимания?

– Да, слышал на работе от коллег что-то подобное. Многие даже ссорятся из-за того, что один из родителей хочет раньше приучить ребенка к горшку, – ответил с безразличием Саша.

– Еще мне сестра рассказала одну вещь, которая меня поразила. В школе дети уже не пишут в тетрадях. Не знаю, хорошо это или плохо, но они даже не печатают текст – его проговаривают, и программа сама за ними записывает произнесенное. Встроенный датчик адаптирован под голос ученика, чтобы случайно не записать соседа. А вот учителей и записывать уже не надо. Они просто говорят, какой файл открыть, и где он находится. Обучающие файлы бывают разные: текстовые, графические, презентации, видео. Образ педагога обезличивается. Ему ни квалификация не нужна, ни образование. Просто говоришь, что открыть и когда. Очень модно сейчас домашнее обучение. В классах по 10 человек. Чаще всего, это дети, чьи родители думают хоть о каком-то общении ребенка со сверстниками. И я считаю, это еще не предел.

– Не предполагал, что дела обстоят настолько ужасно. Разговор пойдет об этом? – сказал он, выключая свой телефон. – И свой отключи.

Виктория послушно взяла телефон, вынула батарею, и все это сложила в пустую кастрюлю. Немного подумав, она отсоединила wi-fi роутер от розетки.

Как обычно, горячий ужин был на столе – супруга всегда успевала подготовиться к приходу Александра с работы, во сколько бы он ни возвращался. И как только ей это удавалось?

Вика достала одну тарелку и принялась накладывать запеченную рыбу с картофелем.

– Ты уже ужинала? Или просто нет аппетита? – спросил Саша, приступая к еде.

– Я ела вместе с Кирой. Как дела на работе?

– Даже не знаю с чего и начать, – промолвил он. – Наша командировка в Бестолково вместе с американским экспертом из Вашингтона была не такой уж и бесполезной. Мы ознакомились с результатами тестирования искусственного интеллекта, который КРОМ планирует выдвигать в Президенты.

– И тебя смутили эти результаты?

– Да. Но проблема в том, что они смутили только меня. Например, ИИ показывают картинки животных и баллистической ракеты. И задают вопрос: «Что из этого хорошо, а что плохо?», ИИ отвечает: «Котики хорошо, а оружие – плохо».

– Ну, так все правильно говорит, – засмеялась Вика. Она не могла понять, что так беспокоит ее мужа.

– На этом этапе да. А дальше усложняют задачу. В заповеднике стало больше волков и они почти истребили популяцию зайцев. На вопрос: «Что делать» программа дает ответ: «Уничтожить всех волков». И это при том что ИИ обладает колоссальной базой информации во всех областях науки и техники.

Вика внимательно слушала, она уже догадывалась, к чему ведет супруг. Ей почему-то вспомнился китайский эксперимент по истреблению воробьев в 58-м, последствия которого были катастрофическим для страны. Саша продолжил:

– А дальше еще интересней. Ему задают другую задачу. Исходный данные: человек – хорошо, а оружие – плохо. Вопрос: «Что делать, если соседняя страна испытывает ядерное оружие?». Ответ: «Ликвидировать оружие».

– Но… это ведь правильно. Все логично. Разве нет?

– Логично. Но тут же задают уточняющий вопрос: «Как ликвидировать, если там люди?». Решение ИИ было поражающим: «В таком случае необходимо уничтожить людей, производящих оружие. Это меньшее из зол». И под этим он подразумевал стереть страну с лица земли.

Вика смотрела в ночную темноту за окном. Таким же страшным и темным ей представилось будущее Асславии. Не поворачивая к Саше головы, она спросила:

– И после этих испытаний они все равно планируют выдвигать его кандидатуру в президенты?

Саша вздохнул. Аппетита не было, он отложил вилку в сторону.

– Ты же понимаешь, насколько велик их страх перед Псевдотромбом и правительством США. Холодная война не закончилась после распада Союза, она просто легла на дно, чтобы потом возродиться в новом виде. К тому же народ Асславии не придется долго уговаривать. Рассказы о беспристрастности, бескорыстности и справедливости искусственного интеллекта дали нужный результат. Люди устали ждать светлого будущего от других людей. Кого ни выбирай – все не то: «ставленник Запада», «вор», «пьяница», «тупица». На сегодняшний день реальных конкурентов у кандидата от Единой Асславии нет.

– Но никто не знает, что программе вздумается! И не пойдет ли сбой в алгоритме. И не взломают ли его хакеры, или другой ИИ, более совершенный! – Вика посмотрела на мужа. По выражению лица, было понятно, что его беспокоит что-то другое. – Это еще не все?

Собравшись с духом, Саша произнес:

– Вика, то, что я тебе сейчас расскажу, является государственной тайной. Вся информация не просто засекречена, – она уничтожена. Ученым из Бестолково во главе с Жемчужманом удалось смоделировать ситуацию, в которой ИИ стал президентом Асславии. Первым делом он сконцентрировал всю власть в своих руках, заменив демократию диктатурой. Дальше последовал ряд эффективных переустройств всех сфер жизни Асславии: от экономики до образования и условий жизни. После успешно проведенных реформ внутри страны, ИИ начал укреплять позиции на международной арене. Так как многие экспортные и импортные контракты изначально были составлены не в наших интересах, новый президент разорвал их в одностороннем порядке. Такое несоблюдение торговых обязательств со стороны Асславии привело к ухудшению отношений с США и Европой. Началась экономическая война. Наложение санкций на Асславию, ответные зеркальные санкции с нашей стороны. Затем США начали наращивать военные силы, «подключать» союзников. В результате половина мира была настроена против, страна оказалась в ядерном «капкане» – новейшие военные разработки стали стягиваться к ее границам. Естественно, асславийский ИИ не мог этого так оставить: заручившись поддержкой исламских стран, Китая и еще нескольких государств, которые противостояли Штатам, Асславия готовилась дать отпор. Военный конфликт спровоцировал государственный переворот в одной из стран, граничащих с нашей. Не отреагировать правительство не могло, так как бы это поставило под угрозу суверенитет нашего государства. Однако вместо политических переговоров, на которые пошел бы президент-человек, ИИ атаковал соседнюю страну. После этого, под предлогом защиты демократии, США запустила в Столицу баллистическую ракету. Она не достигла своей цели и была сбита на границе с Асславией. После этого последовал ответный запуск ракет в США, в результате чего был уничтожен штат Вашингтон. На этом мы прервали симуляцию.

Вика побледнела. Это даже хуже, чем она могла себе представить.

– И самое, ужасное, что все это уже началось – сразу же после того, как правительство заявило о выдвижении ИИ в президенты. Хотя мне кажется, что даже раньше. Сейчас он повсюду. Новейшие технологии позволяют ИИ следить за каждым днем и ночью. Люди не понимают, как это опасно. И что самое удивительное, все довольны.

– Но этого не может быть!

– Может. Уж слишком много желающих жить легко и беззаботно, не прилагая дополнительных усилий: будь то выбор нового гаджета или выбор жены. Самый простой пример: нейронные сети на каждом шагу анализируют любые наши предпочтения через умные очки. Если ты смотришь на фотографию в соцсети, на которой запечатлены пять разных девушек и, не задумываясь, задерживаешь свой взгляд на одной из них, то в будущем тебе будет сообщаться о любых похожих на нее поблизости.

– Не может быть, чтобы все люди были довольны. Всегда найдутся скептики и критики, те, кто не ищут легкой жизни и остаются разумными людьми.

– Согласен. В последнее время увеличилось количество самоубийств. Совпадение?

– Ты думаешь, это ИИ убирает недовольных? Зачем?

– Видимо, программа определила, что диктатура наилучшая форма правления для нашего менталитета на данном этапе развития, и так борется с несогласными.

– Но как? Как она может это делать?

– Достаточно просто на самом деле. Она все слышит и все видит через телефоны, компьютеры, ноутбуки, планшеты, камеры дорожного видеонаблюдения, через камеры в банках, супермаркетах, на стоянках, в подъездах, через проходящих мимо блогеров, снимающих свой новый ролик. Программа всегда может тебя найти.

– А как именно программа устраняет несогласных?

– Откажет электронное управление автомобиля, несущегося на полной скорости. Троллейбус неожиданно поедет, когда ты будешь стоять на светофоре. Вентиляционная система случайно выкачает весь кислород в спальне и т. д. и т. п.

– Ты высказал свое мнение в Бестолково?

Саша молча ковырял вилкой запеченную рыбу, стараясь не смотреть на жену. Изо всех сил Вика старалась сохранить спокойный тон:

– Значит, и нашим жизням угрожает опасность?

– Боюсь, что да.

Саша тяжело вздохнул, думая о дочке и о том, как сильно он ее любит. В памяти сразу всплыли воспоминания о том дне, когда он забирал жену из роддома. Он гордо держал в руках маленький конвертик с тремя килограммами счастья, и верил, что дочь ожидает светлое будущее – он сам создаст его для нее. Отчетливо вспомнились мысли о том, как пара планировала воспитывать детей. Саше хотелось еще одного, может, даже двух. Он искал в интернете информацию о том, как лучше подготовиться к рождению второго ребенка. Но однажды на работе нейронная сеть кинула ему на почту статью с интересным заголовком: «В чем секрет идеального детства?» В ней рассказывалось о том, как отражается на психике ребенка рождение брата или сестры. Малыши соревнуются, ревнуют, ведь родители неспособны одновременно и в равной мере дарить любовь каждому из них. Как следствие, дети обязательно вырастут неврастениками и не смогут реализовать свой потенциал в полной мере. Александр был обескуражен тем, насколько грубо и нагло ИИ проникает в самые потаенные сферы личной жизни. Но еще страшнее было то, что многие люди повторяют эти постулаты как жизненное кредо, как что-то нормальное. Размеренный голос жены прервал ход его мыслей:

– Знаешь, я много думала о последних событиях и у меня есть кое-какие идеи.

– Ты предлагаешь начать борьбу с суперинтеллектом? – с улыбкой произнес Александр, но по серьезному виду Вики, понял, что она не намерена шутить.

– Сначала я хотела уехать в те страны, где ИИ еще не добрался до власти, хотя и понимала, что это не выход, ведь бежать не вариант. Когда ты был в командировке, мы виделись с Ариной. Разговор коснулся этой темы, и тогда я осознала, что нужно делать. Саша, я предлагаю уйти в подполье. Есть люди, сознание которых свободно от влияния ИИ. Их нужно найти и объединить, пока это еще возможно. Мы могли бы укрыться от нейронной сети где-нибудь в тайге. Помнишь, ты говорил, там есть бункеры, которые строили для правящей элиты на случай ядерной войны. Этой информацией владеет узкий круг лиц, и в цифровом варианте она недоступна.