Светлячки и роботы

Светлячки и роботы
Мария Александровна Анисова

После рождения сына Сергей начинает работу над созданием истинного искусственного интеллекта. Постепенно компьютер начинает заменять ему ребёнка: инженер проводит с ним дни и ночи, учит, объясняет разницу между добром и злом. Но сумеет ли робот усвоить уроки названного отца? Сможет ли заменить семью? Неминуемая катастрофа, грозящая уничтожить мир, расставит всё по своим местам.

Мария Анисова

Светлячки и роботы

Жизненные показатели, выводящиеся на полупрозрачное лицевое стекло скафандра, мигали красным. Пульс – 129 ударов в минуту, давление – 160/110. В ухе противно пищал предупреждающий сигнал, но сейчас он только раздражал, ведь ситуация была гораздо серьезнее, чем обычная тахикардия. Горизонт событий остался далеко позади, и ненасытная тьма, заполнившая собой безграничное пространство, притягивала к себе все сильнее и сильнее. Сергей барахтался в складках материи, как слепой котенок, но едва ли мог заметно отсрочить неминуемое. В ушах стоял какой-то нереальный, утробный гул, и хотя он знал, что в космической среде не распространяются звуки, не мог отделаться от мысли, что они исходят изнутри черной дыры.

Навигатор сдался и превратился в мигающее многоточие. Еще недавно там значился точный адрес, и Сергей прекрасно его помнил: галактическое скопление Abell 85, галактика Holmberg 15A, ближайший объект – сверхмассивная черная дыра Holm 15A. Это была та область космоса, куда уж точно не стоило попадать. В девяностые космонавты бы сказали – зашёл не в тот район. Но те времена давно прошли. Сейчас для Сергея не было уже ни точного времени, ни района. Бездна вглядывалась в него безотрывно. Еще миг – яркая, ослепляющая белая вспышка – и тело разорвало на атомы, как ветхий листок какого-нибудь музейного документа крошится в пыль от неаккуратного прикосновения.

Звук рвущейся бумаги привел его в чувство. Сергей открыл глаза: он лежал в светлом кабинете со множеством приборов. Перед ним сидел молодой врач, только что уничтоживший лишнюю копию энцефалограммы. Выражение лица у него было ободряющее.

– Как я и предполагал, все показатели в норме, – сказал он, аккуратно снимая с пациента шапочку с электродами и отстегивая зажим, от которого за ночь мочка уха успела онеметь, – Есть небольшие изменения в тета-ритме, но я не думаю, что это повод для беспокойства.

– Мне опять снился тот же кошмар. Как я падаю в черную дыру, – видение еще не успело погаснуть, но голос Сергея был спокойным.

– При такой напряженной работе повторяющиеся кошмары – закономерное явление. К тому же, сами понимаете, возраст: шестьдесят четыре – это далеко не восемнадцать. Советую вам взять отпуск. Отдохните месяц-другой. Слетайте куда-нибудь на море. Я вот был недавно на Бора-Бора, снимал бунгало прямо на воде. Очень рекомендую. Белые пески, мандариновые закаты, коралловые рифы…

– Знаете, почему моя работа такая напряженная? – перебил его Сергей, – Потому что ее нельзя прерывать. Люди каждый день умирают от рака, пока мы откладываем работу над тем, что может дать нам рецепт лекарства. Множество рецептов. Координаты пригодных для жизни планет, точные прогнозы будущего, наноматериалы… Каждый раз, откладывая работу на потом, мы совершаем преступление перед теми, кто ждет ее результатов. И всеми теми, кто трудился до этого – безо всяких отпусков.

– Как знаете, конечно. Моя задача – лишь заботиться о вашем здоровье. В любом случае, прямых противопоказаний к работе на квантовом компьютере у вас нет. И вот еще – памятка пациента, прочтите, будет полезно.

– И на этом спасибо.

Сергей вышел из кабинета, находящегося в западном крыле огромного научно-исследовательского комплекса, и направился к своей лаборатории. Солнце только взошло, и его лучи отражались от серебристых глянцевых поверхностей стен, напоминающих облицовку космических кораблей. Инженер думал о том, что врач, делавший ему ЭЭГ-мониторинг ночного сна, мало чем отличается от прочих молодых людей. Все они живут так, словно светлое будущее, к которому человечество стремится с пещерных времен, уже наступило. Что говорить – в это верит даже большинство зрелых, состоявшихся людей. Аргументы их просты и очевидны: современные технологии позволяют никогда не испытывать боли, холода и голода. Казалось бы, все проблемы решены, и остается только на пресловутых Бора-Бора упиваться счастьем, заработанным потом и кровью миллионов предков. Считается даже, что отказ от этих наслаждений и есть не что иное, как проявление неуважения ко всем, кто жил до нас, – предательство их мечтаний.

Однако у Сергея было иное мнение на этот счет. Всех, кто пытался убедить его в святости современного гедонизма, он отправлял в городской зоопарк. Место это было, конечно, уже совсем не таким, как раньше: вместо животных на большом открытом пространстве-заповеднике демонстрировали голограммы, которые можно было даже потрогать руками. Ощущения от прикосновения, скажем, к панде мало чем отличались от поглаживания шерстяных варежек, но аттракцион все равно имел успех. Впрочем, Сергей приводил собеседников в зоопарк не ради шерстки бамбуковых медведей. Он вел их к зоне тропических лесов – месту обитания голографических бонобо. Долгое время считалось, что эти шимпанзе – предки современного человека, то самое «недостающее звено» эволюционной ветви, стоящее между обезьяной и человеком. Живущие на левом берегу Конго, где не было конкурентов-горилл, они оказались в своем обезьяньем «светлом будущем» и стали очень миролюбивыми, терпимыми и дружелюбными. Они даже научились утешать друг друга – все это действительно делало бонобо очень похожими на людей. И все же оказалось, что антропологи ошиблись. Эволюционируют те, кто миллион лет трудится, превращая обезьянью руку в удобную трудовую кисть. А наслаждающиеся сытой жизнью приматы так и остаются обыкновенными шимпанзе.

На горизонте будущего действительно стало светлеть – спорить с этим Сергей не пытался. Но это были лишь первые лучи, зарево, только предвещающее восход. И восход ли? Часы Судного дня все еще приближались к полуночи, хотя угроза ядерной войны уже не была на первом месте среди человеческих страхов. В мире появились вещи гораздо опаснее. И к одной из них Сергей направлялся прямо сейчас.

Тяжелая металлическая дверь, открываемая титановой картой-пропуском, сейф, куда следовало складывать все электронные устройства, сканер сетчатки и, наконец, КПП с работником из службы безопасности.

– Добрейшего утречка, Сергей Василич! Что несем?

– Здравствуй, Антон. Как всегда, рабочие документы, – Сергей открыл дипломат, демонстрируя содержимое.

– Эх, ну вот хоть бы раз что-нибудь запрещенное пронесли! – вздохнул проверяющий, нехотя осматривая бумаги, – Я вам зачем, спрашивается, на День рождения флешку в форме гранаты дарил?

– Я храню на ней фотографии со студенческих лет. То еще оружие в нашем возрасте. Поражает до глубины души, – печально усмехнулся инженер. – Карманы показывать?

– Да идите уже, – отмахнулся Антон, – с вами не работа, а скука смертная.

Закрыв дипломат, Сергей вошел через массивную дверь и оказался в узком коридоре с высоким потолком, ведущем в самую засекреченную в стране лабораторию. Архитектура ее производила тот же эффект, что и средневековые готические храмы, транслирующие мысль о том, что вся жизнь человеческая – это путь к Богу, путь прямой и неотвратимый. Но вместо Бога здесь стоял квантовый компьютер.

Сергей был единственным специалистом, который работал с ним еще с тех времен, когда подобная техника казалась многим не больше, чем фантастической идеей. Он застал первые прототипы, у которых самой внушительной частью были охлаждающие элементы для поддержания сверхнизких температур. Это позволяло эффектам квантовой физики проявляться на макроскопическом уровне – а специалистам использовать их для вычислений. Сергей был одним из создателей квантового компьютера на фотонах, который уже не зависел от температур и стал гораздо более тихим и компактным. Он лично задавал ему первые задачи – разложение чисел на множители. И теперь он же встал во главе проекта ИИИ – истинного искусственного интеллекта.

Последнее стало, скорее, вынужденным решением – Сергей был против запуска ИИ на квантовом компьютере, случившегося пять лет назад. Он слишком хорошо знал, что духовное развитие человечества значительно отстает от уровня технического прогресса. Середина XXI века ознаменовалась созданием новых, всё более совершенных машин и механизмов, в то время как в обществе процветали все те же заблуждения, что и в средневековье. Люди постоянно пытались играть с тем, чем еще не достойны обладать, – и это делало многие вещи крайне опасными. Но директор убедил Сергея, что то, что может быть создано, рано или поздно получит свое воплощение. И будет лучше, если первый ИИИ возникнет в научной лаборатории, а не в продвинутом хакерском подполье, исповедующем анархизм. И если руководителем такого проекта станет человек, осознающий свою ответственность.

Так на плечи Сергея легло тяжелое бремя. Он нес его стойко, потому что был воспитан очень мудрыми людьми: родители никогда не внушали ему, будто человек создан для счастья. Они учили его трудиться и отдыхать, быть справедливым, защищать слабых. Помогать людям, которые нуждаются в помощи, и не жалеть тех, кто вредит другим. Они отчетливо понимали, что будущее станет таким, каким их поколение его построит – и это было главным критерием, определяющим правильность поступков. Мать Сергея работала учителем, отец занимался наукой – оба они потратили свои жизни на то, чтобы положить несколько кирпичиков в здание, обживать которое придется уже потомкам. Их сын теперь встал на защиту родных крепостных стен. И задача его была нелегка: с высоты прожитых лет и накопленных знаний приходилось следить не только за горизонтом, но и за тем, что творится внутри.

А внутри творились вещи планетарного масштаба. Если обычные компьютеры умели так искусно имитировать человеческое сознание, что в несколько раз превосходили его, то истинный ИИ потому так и назывался, что ничего не имитировал. Он мыслил непосредственно: не анализировал каждый пиксель, чтобы описать изображение, а видел картину целиком, как человек. Между тем возможности его были неизмеримо больше – примерно как у карманной вселенной. И вся эта мощь была заключена, как джинн в лампе, в тесной клетке лаборатории. В точке, существовавшей до большого взрыва.

Клетка этого джинна действительно была похожа на лампу – точнее, на люстру, какие бывают в больших театрах. Сложное устройство золотым водопадом спускалось с потолка, поблескивая множеством проводов, проходящих свозь параллельные диски диаметром в несколько метров. Именно эта часть являлась сердцем машины, а результаты её работы преобразовывались и выводились на вполне себе привычный монитор. Даже софт, разработанный под квантовый ИИ, вызывал ассоциации с уже ставшим классикой «Линуксом». Самым странным оборудованием здесь был, пожалуй, инфракрасный порт: установленные рядом с компьютером две пары приемника и передатчика. Через них для ИИИ поступала дозированная информация об окружающем мире, а данные о работе квантового разума передавались на автономный компьютер. Все скорости и объемы при этом были минимальными. Такой древний способ передачи данных выбрали неспроста: он гарантировал, что ИИИ не использует этот канал, чтобы узнать больше, чем полагается, или ускользнуть за пределы лаборатории.

Сергей устало бросил пиджак у приемника, сел в кресло перед монитором и ввел код доступа. Компьютер, как обычно, поприветствовал его и замолк, ожидая новых задач. Инженер разрешил ИИИ получить новую порцию информации о внешнем мире: красная лампочка на передатчике заморгала. Компьютер изучал новости, которые ему решили выдать на вчерашнем секретном совещании: такие собрания проходили несколько раз в неделю и уже стали привычной рабочей рутиной. Никто из посвященных точно не знал, какая информация будет наиболее подходящей для обучения ИИИ, но в своих обсуждениях все старались ориентироваться на составленный предварительно и тут же засекреченный список из пяти пунктов. В нем содержалось следующее.

Передаваемая ИИИ информация должна быть целостной, правдивой и непротиворечивой.

Передаваемая ИИИ информация должна характеризовать человечество в позитивном ключе, отражать стремление к установлению мира и развитию гуманизма.

В передаваемой ИИИ информации должна утверждаться главенствующая роль человека во всех описываемых процессах.

ИИИ не должен получить информацию о том, как можно навредить человечеству.

ИИИ не должен получить информацию о себе.

Из-за абстрактности формулировок на совещаниях почти всегда происходили ожесточенные споры. По большому счету, всем условиям не удовлетворял ни один факт на свете. Человек не имел абсолютного контроля ни над одним из происходящих на планете процессов, включая собственные мысли и действия. В любой мирной инициативе заключалась информация о том, что вызвало необходимость ее появления. А любые попытки уложить факты на прокрустово ложе соответствия списку неизбежно заканчивались нарушением первого пункта.

Тем не менее информацию все же согласовывали и выдавали. Сначала ИИИ объяснили строение земли, эволюцию, описали внешний мир и человека. Следующим этапом познакомили компьютер с шедеврами мирового искусства, а затем, взвесив все за и против и оценив риски, с достижениями науки. В качестве теста загрузили несколько свежих новостей и проверили, насколько ИИИ их понимает – результаты получились неплохие, и практику решили продолжить. В этот раз компьютер узнал об успехах первого в мире завода по переработке пластика с помощью бактерий. Работа этой китайской организации вполне удовлетворяла условиям списка: враждебных действий не вызывала, человечество характеризовала в позитивном ключе. Руководство надеялось, что ИИИ поймет смелые человеческие мечтания о мире, в котором дельфины не запутываются в мусорных пакетах.

Красный сигнал передатчика перестал мигать – судя по всему, информация была полностью передана. Скорость ее обработки для человеческого восприятия казалась мгновенной. Сергей смотрел на экран в ожидании результата, но вдруг вместо привычного файла появилось уведомление:

«Поиск внешних устройств ИК-связи…».

– Опять! – с досадой проговорил Сергей. – Неужели связь оборвалась?

Он проверил состояние приемника и передатчика – устройства работали исправно. Почему же тогда компьютер решил проверить доступные подключения? Это была уже не первая подобная ситуация. На одном из этапов обучения он точно так же вдруг как будто потерял связь с передатчиком и начал поиск доступных устройств. Разумеется, других ИК-портов поблизости и быть не могло – это обеспечивалось правилами безопасности, по которым любой вошедший не должен был иметь при себе никаких электронных устройств. Даже сотрудникам с кардиостимуляторами вход сюда был категорически запрещен.

Как бы то ни было, с тех пор компьютер периодически проверял доступные подключения и, не находя их, продолжал работать в прежнем режиме. Сергей по всем правилам докладывал о случившемся, но специалисты тщетно пытались обнаружить проблему. В конце концов, было решено, что поиск доступных устройств не мешает штатной работе ИИИ, и эксперименты продолжились.

«Обнаружено внешнее устройство ИК-связи в пределах видимости».

Сергей машинально взглянул на приемник, ожидая, что красный сигнал моргнет, подтверждая подключение. Этого не произошло. Инженер вновь запустил проверку устройств – все было в норме. Спустя секунду приемник заморгал – словно и не было никакой проблемы.

– Давай-ка без глупостей, не хулигань, – строго сказал Сергей. Он уже давно разговаривал с компьютером так, словно тот был ребенком, которого следовало воспитать. ИИИ вполне мог бы его услышать и ответить, если бы только у Сергея было право включить микрофон и колонки. Увы, пока это было категорически запрещено. Продолжить общение пришлось по старинке, в формате команд.

Сергей предложил компьютеру тест на понимание прочитанного. Он мало чем отличался от контрольных по литературе для обычных школьников. Разница была лишь в том, что сочинения здесь не приветствовались – ИИИ должен был максимально точно и сжато отвечать на вопросы. Большего ему пока не позволяли. Инженер стал вводить подготовленные вопросы по порядку.

«Какие бактерии используют на заводе для переработки пластика?»

«Ideonella sakaiensis».

«Зачем нужна переработка пластика?»

«Переработка пластика позволяет уменьшить количество трудноразлагаемых отходов»

«Переработка отходов – это хорошо или плохо?»