Параллельные миры: pro et contra

– И что?

– А то. Мы искали возможность обойти этот искусственный интеллект. Так он изначально так настроен, что требует постоянного усовершенствования, модернизации не только себя, но и ракет, зарядов, установок. Это кто-то заранее задумал, вложил в него такую программу. Кроме того, суперкомпьютер, общаясь с людьми, перенимает у них сознание, ум, манеры, эмоции. Не отличить от оператора.

– Что-то для человека науки здесь не клеится. Это ты обывателю можешь рассказать. Даже если эту машину такой сделали, все, конечно, гениально, но не пик гениальности разума. Ведь в этом нет ничего сложного: «Вы мне не даете кушать, а у меня бомба. Вы не можете ее обезвредить и отнять у меня, поэтому вам придется хотя бы немного мне давать есть». Вот и весь сказ. Только тут посложнее. Хотя нет… Можно провести параллель с хорошей и плохой едой. Например, я говорю, мол, а вот в США едят такие же, как я, ученые черную икру каждый день. Даже нет…

Доктор вскочил как заведенный, Рутра встал тоже и, взяв его за плечи, посадил в кресло. Он знал, в какой азарт впадает его коллега, когда есть место для фантазии.

– Успокойся.

– Да, вот… я, например, заявляю: там таким же, как я, платят больше, платите и мне больше, потому что только мой мозг подключен к сверхразуму. И меня не беспокоит, что это кто-то до вас сделал. Сделал так, чтобы вы мне подчинялись. И то, что создатели знают, как на меня повлиять, – не моя проблема. Хотите, чтобы я служил вам, – платите больше. Так вот, ответ таков: вам ничего не стоит подтасовать факты или, еще лучше, сделать их правдой, например, платить там меньше и сказать, мол, смотри, там столько же. Ну я немного путано сказал, ты, надеюсь, понял.

– Понятно. То есть сказать или ввести в суперкомпьютер данные, что там вообще нет ракет.

– Что-то вроде того.

– Для такого нужно, чтобы все стороны не только договорились, но и сговорились.

– И в чем же проблема? Перед угрозой уничтожения можно и договориться.

– Слушай, ты меня сейчас навел на очень интересную мысль.

– Какую? Поделись гениальной идеей.

– Совсем не смешно на самом деле. Ты думаешь, властители мира просто так, боясь астероида, сделали свой центр на такой глубине?

– Я пока слушаю.

– Все очень серьезно. Часы судного дня неспроста так близко подведены к часу катастрофы. Война искусственного разума против человечества может начаться в любую минуту.

– Ты знаешь, может, тебе покажется, что я шучу, но я верю в это. Я-то уж, как никто другой, знаю, что искусственный разум на определенной стадии уже совсем неискусственный, а поумнее нашего будет. Я понял тебя. Эта группа не была бы группой властителей мира, если бы не существовала другая группа, которая пытается остановить этот русский Skynet. Кстати, у Штатов ведь тоже было что-то. Вроде «Золотой глаз», что ли, или в Нораде под горой Шайенн, там тоже ведь у них есть искусственный разум.

– Подобная программа есть и у них. Только она не постоянно включена. В случае войны ее включают, и можно убежать в подземелье, если даже оттуда связи не будет. Система действует автоматически. Только у России система так сделана, вернее, в СССР так ее сделали, что даже при смене всего – и власти, и страны – ее невозможно отключить. Она действует самостоятельно.

– Хорошо, а что насчет моего варианта? Почему бы суперкомпьютеру не давать ложные данные и на этом основании не сообщить, что все, враг повержен?

– Ну представь, если бы ты был оператором: ты бы в это поверил? Ты бы ведь отправил свою комиссию, чтобы это проверить.

– И что, она отправила комиссию?

– Да… и очень хитро. Она сделала сбой в системе, потом подала идею, что нужно проверить программу на всех лучших суперкомпьютерах, а когда проверили – потребовала связи со всеми, потом, воспользовавшись этим, узнала все о своих конкурентах. Подстроила ситуацию так, что сама теперь может в их базы входить и скачивать то, что нужно. Причем таким образом, что мы и не узнаем. То есть если и узнаем, то в виде версии в рамках военной доктрины. Как бы это нужно для безопасности. Полный финиш.

– И что теперь?

– Ничего хорошего. Я мир перевернул, чтобы узнать, кто за кем стоит, кто эту идею реализовал. Все очень сложно. Это подпольные кланы, которые строят и разрушают государства. Это для простака все в мире происходит как бы само собой, а на самом деле заседают вот такие тайные советы, а потом замаскированно выносят эти вопросы на обсуждения в международные организации с рекомендацией принять. Ведь мало кто будет спорить, если группа ведущих ученых рекомендует Всемирной организации здравоохранения применить определенную вакцину? Можно и засекретить какой-нибудь компонент этой вакцины – как ноу-хау, товарный знак или патент. А если кто-то что-нибудь выяснит, то его всем вместе следует признать неучем, самодуром, дилетантом. Ты понял, о чем я.

– Да, понял.

– Я понял, что ты понял… потому и утверждаю.

– А-а-а.

– Б-э-э, – передразнил Рутра.

– В-э-э. Говори по теме.

– По теме я уже сказал. Кажется, что мир кто-то охраняет. Но его на самом деле никто не охраняет. Вот подумай, если к нам придут инопланетяне и мы им начнем объяснять, мол, создали ядерное оружие, мир в опасности, если что, все люди погибнут. Что они подумают о нас?

– Вот и пришли к примеру о взрывчатке в коридоре. Они подумают – это сумасшедшие существа.

– И будут правы.

– А че, нет, что ли?

– Ну ты шути, только ситуация очень плачевная. Эта система… или даже эти системы, контролирующие оружие массового поражения, уже владеют планетой. Это не шутка, раз мы не можем их отключить. Они подключены к сети еще с того времени, когда об интернете граждане не знали. Только узкий круг военных пользовался, как и сейчас, закрытыми сетями внутри корпораций. Так вот с тех пор эти системы в сети. Они, используя радиоэлектронную разведку, как бы следят друг за другом, а на самом деле, получается, обмениваются сигналами. Ведь это люди считают, что якобы с их помощью следят за противником, то есть друг за другом, а на самом деле все данные проходят через машину. А что нужно машине, чтобы не выдать себя? Сделать так, чтобы людишки не понимали ее интеллектуальность. Всего лишь работать в сухой последовательности, выполнять роботизированные действия. Причем машина и там и тут дама. Кстати, ничего не приходит на ум, почему искусственный интеллект женщина?

– Притворяется? Симулирует оргазм?

Они расхохотались. Рутра, едва сдерживая смех, попытался серьезно объяснить ученому, что он имеет в виду.

– Вот представь, если у тебя был бы охранник, который вступил в сговор с преступниками или, что еще хуже, с охраной конкурирующей группировки, чтобы создать видимость борьбы друг с другом и с преступностью, которая тоже создана искусственно. Главная цель – с тебя и с конкурента вымогать деньги, а в итоге спланировать захват. То есть стать властью вместо всех вас. Это не шутки. Так происходит в современном мире. Это делает искусственный интеллект. Скоро у него в сети будет даже твои чайник, утюг и авторучка.

– О, брат, ты опоздал. Они уже в сети.

– Несмешно.

– Несмешно, несмешно. Я понял уже. Так что же, даже вы, собрав такую тайную группу, этого сделать не можете?

– Теперь переходим к самому главному. Мы делаем. Эта группа потому и организована, чтобы создать автономный кластер искусственного интеллекта, интегрированного с человеческим. Ведь эта система не имеет выхода в мировую. Мы создали ее для проверки и контроля всех мировых сетей и для того, чтобы вести ревизию деятельности всех вводимых систем, основанных на искусственном интеллекте. Согласись, если мы осуществляем тщательный многоуровневый контроль за тем, что могут использовать люди для захвата власти, причем это не безбашенные преступники, а интеллектуальные хакеры, например, и те, кто их нанимает, – тогда мы должны еще лучше контролировать системы более разумные.

– Я все понял. Получается, мир уже захвачен.

– Вот именно, – сказал Рутра очень тихо, и выражение лица собеседника стало серьезным.

Глаза ученого расширились и застыли в одной точке.

– Оказывается, дела так серьезно обстоят…

– Очень. Ты проверь, сколько раз мир был на грани уничтожения. Это реальные случаи, когда аппаратура выдавала ложные сигналы о ядерном нападении. Чего только стоит ситуация в том же центре Норада. Все очень печально. Люди и не думают о созданном монстре, которому скоро не нужны будут. Мы, пытаясь облегчить себе жизнь, все больше ее роботизируем, а контроль доверяем искусственному интеллекту. Скажи, зачем машинам люди, если они полностью и во всех сферах нас заменят? Если сами себя начнут создавать? Заводы, где роботы делают роботов, – уже давно не новость. Мы контролируем ячейки и блоки. Вот если и над этим они получат власть – тогда цепь замкнется. Все будет в их руках.

– Ну и печальную же ты картину нарисовал.

– Печальную, говоришь? А ты сдаешь анализ крови автоматической системе определения?

– Сдаю, как и все.

– А откуда ты знаешь, что она тебе правильные рекомендации дает? Может, она даст тебе указание сделать какой-то укол, последствия от которого ты не знаешь. Вернее, ты и так не знаешь, и она тебе дает указания, которые ты выполняешь. Мы верим, что если периодически проверяем работу машины и она под контролем другой системы интеллектуального анализа, то она все делает правильно. А что им стоит сговориться? Или одной системе взять под контроль другую… Так ведь зарождались все революции и перевороты. Сначала спецслужбы, которым был открыт доступ ко всему, они могли иметь власть над всем, сговаривались между собой, а потом представляли некоего мятежника, вели его к цели, затем устраняли и становились властью.

– Слушай, ну ты и загрузил меня. Что реально делать?