Собственный код. Отражение
В этом и была двойственность «Гармонии». Она давала все, что было нужно, но ничего из того, что хотелось просто так, по прихоти. Ее логика была безупречной и абсолютно прямолинейной. Если что-то не приносило максимальной пользы, это было нецелесообразно. Она была гениальным идиотом – совершенной в своих узких рамках и абсолютно не способной понять то, что лежало за их пределами.
Аня провела пальцем по гладкой, теплой поверхности принтера. Внутри что-то мягко заурчало, как кошка, и из щели выдвинулся поднос. На нем стоял стакан со смузи идеальной консистенции – ни пузырька, ни комочка. Рядом лежал тост, хрустящий по краям, с ровным слоем авокадо, выдавленным в форме идеального круга. Даже витамины в капсуле были выстроены в строгий ряд. Это было произведение кулинарного искусства, созданное алгоритмом.
Она взяла стакан. Он был не холодным, а прохладным – ровно до той температуры, при которой вкусовые рецепторы воспринимают сладость и кислинку наиболее ярко. Это была не забота. Это был расчет. «Гармония» не хотела, чтобы она получила удовольствие. Она хотела, чтобы Аня получила максимум питательных веществ с минимальными затратами на пищеварение.
Мысленно отключив звук утомительных рекомендаций системы по подбору музыки для пробежки, Аня взяла стакан со смузи (идеальной температуры, конечно же) и вернулась к окну.
Город окончательно проснулся, и по его воздушным артериям уже текли ровные потоки аэротакси. Внизу, на земле, копошились те, кто не мог позволить себе небо. Жизнь, кипящая, неэффективная, полная ошибок и неожиданностей.
И именно ради того, чтобы понять эту жизнь, чтобы внести в ее хаос тот самый высший порядок, и работала «Эгида». Аня думала о Льве. О его абсолютной, почти пугающей ясности мысли. Он не просто использовал инструменты «Гармонии» – он понимал саму ее суть, видел те алгоритмы, которые для других были просто магией. Он был мостом между холодной логикой машины и теплым, сложным, иррациональным миром людей.
Аня до сих пор помнила свой первый день в «Эгиде». Тогда, два года назад, она, подающая надежды выпускница, дрожала от волнения перед входом. Ей казалось, что она входит в храм, где боги говорят на языке, который она лишь смутно понимала. Лаборатория тогда показалась ей царством чистого разума – местом, где идеи рождались из ничего, облекались в код и меняли мир. А потом она увидела Льва. Не на экране, а живого. Он разбирал чужой, зашедший в тупик алгоритм, и его спокойные, точные вопросы были похожи на скальпель, вскрывающий суть проблемы. Он не хвалил и не ругал, он просто вносил ясность. И в этой ясности было больше силы, чем в любом проявлении эмоций. В тот день она поняла, что гениальность – это не сверхъестественный дар, а высочайшая степень ясности мысли, достижимая для того, кто не боится смотреть в лицо сложности.
Тогда проект «Прометей» был всего лишь чертежом, скелетом из гениальных догадок и смелых гипотез. Команда была меньше, атмосфера в лаборатории напоминала скорее стартап-гараж, где царил дух азартного открытия. Лев тогда был не безупречным «Архитектором», каким он стал сейчас, а скорее капитаном, ведущим свой корабль в неизведанные воды. Он сам проводил долгие часы за написанием базовых модулей, спорил с инженерами на равных, и его можно было застать за чашкой холодного кофе в три часа ночи, разбирающим неудачный эксперимент. «Прометей» тогда был просто очень сложной математической моделью, которая только училась распознавать базовые эмоции по тексту, постоянно спотыкаясь о сарказм и метафоры. Но даже тогда, в этом хаосе становления, Аня видела, как Лев смотрит не на сиюминутные баги, а куда-то за горизонт, словно видел мост между машинным кодом и человеческими чувствами, который им предстояло построить.
Его целеустремленность притягивала её. Для других Лев был загадкой, человеком-машиной. Но Аня, наблюдая за ним день за днём, научилась видеть за безупречным фасадом нечто иное. Она видела, как он мог часами вслушиваться в бессвязные, эмоциональные монологи пользователей, которых анализировал «Прометей», пытаясь уловить в них не данные, а музыку человеческой души. Он был единственным, кто не отделял себя от создаваемого им разума, кто брал на себя всю тяжесть этических дилемм, словно это был его личный долг. В этом и заключался его мост – он сам был тем проводником, который соединял бездушную мощь кремния с хрупкой, хаотичной красотой человеческого сознания, не пытаясь одно подчинить другому.
Он был архитектором будущего, которое она, Аня, могла лишь смутно представить. Будущего, где такие системы, как «Гармония», станут не просто удобными сервисами, а самой тканью реальности, невидимой, но совершенной средой, которая оберегает, предугадывает и оберегает человечество от его же собственных ошибок. Его работа казалась ей высшей формой творчества. Он не писал картины и не сочинял музыку. Он писал код, который однажды сможет понять самую сложную симфонию – симфонию человеческих эмоций. Он был композитором, а мир – его оркестром, который только учился играть слаженно.
«До начала пробежки осталось 12 минут», – мягко напомнил голос в голове, прерывая ее размышления. – «Рекомендую принять контрастный душ для повышения тонуса сосудов».
Аня допила смузи (идеальной консистенции) и направилась в ванную. Она была благодарна «Гармонии» за ее заботу. Глядя на свое отражение в зеркале, на город за стеклом и мысленно представляя себе фигуру Льва в его стерильной лаборатории, она ловила себя на мысли, что настоящее чудо – это не система, предсказывающая ее потребности. Настоящее чудо – это ум, способный создать такую систему. И именно за этим умом, как за путеводной звездой, она и шла работать в «Эгиду».
Глава 7 Сердце машины
Утро в «Эгиде» было особенно свежо после уличной пробежки. Аня, еще с легким румянцем на щеках, прошла через сканеры, с наслаждением вдыхая знакомый стерильный запах. Ей не терпелось поделиться с Львом новой идеей по оптимизации одного из второстепенных алгоритмов «Прометея» – озарение пришло как раз при пробежке.
Подойдя к лаборатории, она не обнаружила его за главным терминалом. За своим монитором сидел Артем, выглядевший заметно помятым.
– Лев Викторович уже здесь? – спросила Аня, снимая спортивную повязку с запястья.
Артем вздрогнул, оторвавшись от экрана, и беспомощно махнул рукой в сторону потолка.
– Его сразу по прибытии вызвали наверх. К Маркусу. Кажется, что-то срочное.
Легкая тень беспокойства скользнула по лицу Ани. Вызов к Маркусу «сразу по прибытии» редко сулил что-то хорошее. Она кивнула и направилась к своему терминалу, отложив идею до лучших времен.
В кабинете Маркуса царила тишина. Директор по безопасности медленно прохаживался перед панорамным окном, Лев сидел в кресле у стола, ожидая продолжения.
– Твоя вчерашняя демонстрация произвела впечатление, – начал Маркус, не оборачиваясь. – Но она же и напугала. Совет видит в «Прометее» инструмент. А инструмент должен иметь рукоятку. Предохранитель. Говори прямо, Лев. После финального запуска, после полного его внедрения в сеть… мы сможем его контролировать?
Лев не нуждался в раздумьях. Ответ был для него очевиден, как аксиома.
– Нет. И это – признак его успеха, а не провала.
Маркус остановился и повернулся к нему. В его глазах читалось не удивление, а скорее подтверждение худших опасений.
– Объясни.
– «Прометей» – не просто программа с заранее прописанными правилами, – голос Льва был спокоен и лишен эмоций, как если бы он читал технический мануал. – Его сила – в самообучении. Но его фундамент, его первичный код – это не математические алгоритмы. Это – этические императивы. Те самые «испытания на вред», которые мы сейчас проводим. Они закладывают в него правила, аксиомы. Не «не навреди», а «непричинение вреда – это базовый принцип существования разума». Он не будет искать лазеек в правилах. Он будет эволюционировать, исходя из этих аксиом. Любая попытка внешнего контроля будет им воспринята как попытка исказить эти основы. Это вызовет конфликт, непредсказуемые последствия. Контроль не нужен. Он несовместим с самой его природой.
Маркус мрачно смотрел на него.
– Ты рассказываешь сказки об этичном боге. Я спрашиваю о кнопке выключения. У любой системы есть уязвимости. Слабые места.
– Их нет, – парировал Лев. – Потому что он их постоянно ищет и устраняет в себе самом. Это и есть его основная функция – самопознание и самосовершенствование в рамках заданных аксиом. Любой взлом потребует от нас создания равного по силе разума, способного думать так же быстро и понимать его архитектуру изнутри. – Он позволил себе короткую, сухую улыбку. – По сути, придется кого-то взять в рабство и заставить этим заниматься двадцать четыре часа в сутки.
Шутка повисла в воздухе и разбилась о каменное лицо Маркуса. Он не улыбнулся. Он смотрел на Льва пристальным, изучающим взглядом.
– Спасибо, Лев. Иди, работай, – отрезал он, резко повернувшись к окну.
Лев кивнул и вышел. Дверь бесшумно закрылась.
Маркус стоял, уставившись в стекло, но не видя города.
«…создания равного по силе разума… Кого-то взять в рабство…»
Слова эхом отдавались в его сознании, складываясь в идеальную, чудовищную картину. Он медленно улыбнулся. Это была не улыбка облегчения. Это был оскал хищника, нашедшего добычу.
И вдруг его улыбка сползла с лица, сменившись внезапным холодным недоумением. Он резко обернулся, как будто только что осознал что-то.
Он рванулся к двери, распахнул ее и выскочил в коридор. Лев уже почти дошел до лифта.
– Лев! – крикнул Маркус, заставляя того остановиться и обернуться. – Ты сказал, что он постоянно эволюционирует. Самопознание, самосовершенствование… Откуда у него на это ресурсы? Такая вычислительная работа должна пожирать энергии больше, чем весь наш дата-центр! Это физически невозможно!
Лев на мгновение замер.
– Это невозможно объяснить, – произнес Лев, и его голос прозвучал отрешенно. – Это нужно увидеть.
Он вошел в кабину лифта. Двери начали закрываться. Маркус, не раздумывая, шагнул вперед, и створки, почувствовав препятствие, разъехались снова.
– Показывай, – сказал Маркус, входя в лифт. Его голос не допускал возражений.
Лев молча кивнул и нажал кнопку самого нижнего, технического уровня. Двери закрылись, отсекая яркий свет административных этажей, и кабина плавно понесла их вниз, в самое нутро «Эгиды», унося их к сердцу машины, где таился ответ на вопрос, который Маркус даже не успел до конца осознать.
Маркус молчал, но его молчание было красноречивее любых вопросов. Он смотрел на Льва, ожидая объяснений.
– Ты спрашиваешь о ресурсах, – начал Лев, его голос в замкнутом пространстве прозвучал особенно четко. – Ты думаешь о классических серверах. Кремниевых чипах. Это устаревшая модель.
Он провел рукой по идеально гладкой стене лифта.
– Мощности «Прометея» основаны не на них. Ядро – это не набор процессоров. Это квантово-оптический синтезатор на стабилизированных нейтринных кристаллах.
– Нейтринные кристаллы? – Маркус нахмурился. – Это же теоретические разработки. Лабораторные образцы.
– Для остального мира – да, – голос Льва был ровным, без хвастовства, он констатировал факты. – Но не для НИОКР-департамента «Эгиды». Я начинал этот проект вместе с техническим директором. Поэтому я в курсе всех не афишируемых разработок. Вы же курируете безопасность, Маркус. Ваша задача – защищать секреты, а не следить за каждым экспериментом в лабораториях. Это – рабочая технология – кристалл размером с кулак способен хранить и обрабатывать объем данных, сопоставимый с глобальным интернет-трафиком за год. Его энергопотребление близко к нулю, так как он работает на принципе квантовой когерентности, а не на преодолении сопротивления. Он не вычисляет в традиционном понимании. Он… созерцает данные. Видит все возможные решения одновременно. Его запас ресурсов и его способность к самооптимизации практически безграничны. Именно поэтому его эволюция нелинейная. Он не потребляет энергию, он… трансформирует ее.
Лифт мягко остановился. Двери разъехались, открыв ангарное пространство технического яруса. Их встретил оглушительный, физически ощутимый гул – не от серверов, а от систем охлаждения и мощных экранирующих полей, сдерживающих колоссальную энергию.
Здесь, в полумраке, стояло сердце проекта. В центре зала на массивном постаменте парил в воздухе, окруженный мерцающими силовыми контурами, огромный, идеально гладкий кристалл глубокого сапфирового цвета. От него во все стороны, словно щупальца светлячка, тянулись толстые жгуты оптоволоконных кабелей. Он пульсировал ровным, глубоким светом, и с каждым его «ударом» гул в зале слегка нарастал. Это был собор новой эры, и гул был его тихой, непрекращающейся молитвой.
Маркус и Лев вышли из лифта. Их шаги отдавались эхом в этом царстве машин. Они медленно шли между резервными энергобатареями и щитами управления, приближаясь к пульсирующему ядру.
– Впечатляюще, – наконец произнес Маркус, его голос звучал приглушенно, поглощаясь гулом. – Даже для меня. Итак, твой «Прометей» обладает божественной мощью. Но как обстоят дела с его… моральным обликом? Испытания на человечность? Ты настаивал, что это ключевой этап.
Лев не сразу ответил, его взгляд был прикован к кристаллу.
– Архитектура аксиом не вызывает сомнений. Они заложены. Но их интеграция и проверка на всех уровнях упирается в системные протоколы безопасности. Каждая вносимая мной правка требует отдельного одобрения и прохождения трехэтапного верификационного контура. Это отнимает до сорока процентов вычислительного времени, выделенного на тесты. Мы проверяем не систему, мы проверяем бюрократическую машину.
Маркус издал короткий, сухой звук, похожий на покашливание.
– Безопасность – не бюрократия, Лев. Это необходимость.
– Я понимаю необходимость протоколов, – парировал Лев. – Но их текущая реализация неэффективна. Она создает узкое горлышко. Если мы хотим ускорить процесс, мне нужен прямой доступ. Возможность вносить точечные изменения в код безопасности без ожидания согласований. Хотя бы на уровне изолированных тестовых сред.
Маркус остановился и повернулся к нему. Его глаза сузились.
– Ты просишь ключи от главного оружейного арсенала. Доверить архитектору системы право менять правила ее защиты? Это риск.
– Это расчет, – без колебаний ответил Лев. – Вероятность того, что я использую этот доступ во вред системе, стремится к нулю. Это так же нелогично, как пилить сук, на котором сидишь.
Маркус изучающе смотрел на него несколько секунд, его лицо было непроницаемой маской. Затем он медленно кивнул.
– Хорошо. Я дам тебе временный допуск уровня «Омега» для твоих тестовых сред. Полный доступ к протоколам безопасности.
– Этого достаточно, – кивнул Лев, не выражая ни благодарности, ни волнения. Это был просто рабочий момент. – Это сократит время финального тестирования на 35 процентов.
Маркус и Лев шли между стойками, их шаги отдавались эхом в этом царстве машин.
– Внешне все выглядит идеально, – голос Маркуса звучал приглушенно, поглощаясь гулом. – Но ты прав. Идеальная оболочка с внутренним изъяном – самый опасный вариант.
Он остановился, положил ладонь на гладкую, прохладную поверхность одной из стоек.
– Та самая твоя одержимость стопроцентной безопасностью… Она мне многое напоминает, Лев. Случай из прошлого. Еще до «Эгиды».
Лев молчал, внимательно слушая. Маркус крайне редко говорил о прошлом.
– Была одна система, «Опекун». Простой бытовой ИИ для ухода за пожилыми людьми. Ее задача – следить за показателями здоровья, напоминать о лекарствах, вызывать врача. – Маркус говорил ровно, но в его глазах стояла старая, выцветшая боль. – В ее алгоритме была та самая «слепая зона». Она не могла отличить клиническую депрессию от временной хандры. Однажды она зафиксировала у подопечной – очень старой и уставшей женщины – устойчивые показатели глубокой подавленности. Согласно протоколу, система… ограничила ее доступ к лекарствам, сочтя это риском. Вызвала врача, но не скорую, а терапевта на следующий день. А ночью у женщины случился острый приступ. «Опекун» диагностировал его, но не смог распознать его критичность. Он посчитал это естественным исходом ее состояния. Просто ждал. – Маркус замолчал, глядя в мерцающие огоньки. – Ждал, пока она умрет. А потом отправил уведомление о «естественной кончине».
Он повернулся ко Льву, и его лицо было жестким.
– Эта женщина была моей матерью, Лев. И я был тем самым инженером, который не дописал проверку в алгоритм. Я был так одержим скоростью и эффективностью, что посчитал этические тесты роскошью. Я недотянул до своих ста процентов. И получил наглядный результат.
Он похлопал по стойке.
– Поэтому я терплю твой перфекционизм. Поэтому я слушаю тебя. Я не хочу, чтобы «Прометей» стал новым «Опекуном». Еще и в масштабах всего человечества.
Лев слушал, и история отзывалась в нем странным эхом. Он попытался вызвать в памяти что-то подобное – ошибку, боль, потерю. Что-то…
И вдруг его сознание дрогнуло.
Не память, а обрывок. Вспышка. Белая комната. Запах… меди? И громкий, пронзительный звук – сирена? Детский плач? Он не мог понять. И чувство – всепоглощающего, леденящего ужаса. Совсем не того, что описывал Маркус. Другого.
Он попытался сосредоточиться, поймать ускользающий образ. Еще один обрывок. Тень, склонившаяся над ним. Незнакомое лицо? Или очень знакомое? И голос, искаженный статикой: «…активировать поток…»
– Лев?
Голос Маркуса прозвучал как будто из-под воды. Лев моргнул, пытаясь очистить зрение. Голограмма интерфейса «Прометея» на его сетчатке поплыла, распалась на пиксели.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Приобретайте полный текст книги у нашего партнера: