Стазис

Стазис
Иван Сергеевич Шадрин

В будущем люди владеют персоналами – искусственными сущностями, заменяющими им родных, друзей, любовников, домашних животных, партнёров по играм. Технологии позволяют делать персоналов идеальными для своих пользователей, но безопасны ли они? Однажды молодой программист из Лондона входит в стазис – особый вид сна, в котором люди встречаются с персоналами, чтобы встретиться со своей любимой, и больше никогда не просыпается. Илья Демидов защищает людей от опасных технологий, работая старшим экспертом по ИИ-продуктам при Комиссии по ценным бумагам. После инцидента с программистом ему предстоит сделать свою работу: признать персоналов опасными для человека и тем самым подписать приговор "Ленсетив" – компании-владелице технологии персоналов. Однако прежде, чем сделать это, Илья решает дать "Ленсетив" последний шанс на доказательство невиновности – ведь он сам владеет персоналом и очень не хочет её терять. Последствия этого решения становятся неожиданными.

Иван Шадрин

Стазис

…Пока Стивен был в душе, Кейт сидела на постели и смотрела на электронные часы на прикроватной тумбочке. Ей не нравилось то, что она видела. Таймер дошел до значения 00.01 и теперь мерцал, не меняясь. Она посмотрела на настенные часы и обнаружила, что прошло уже полтора часа с тех пор, как цифры таймера замерли. Она закрыла глаза и запустила диагностику. Ядро присылало незнакомые значения. Она углубилась, чтобы выяснить источник.

– Кэтти, я все… Пойдешь? – раздался голос Стива за ее спиной.

Она обернулась. Он стоял в двери ванной и вытирал полотенцем волосы. Она соскочила с кровати и в слезах бросилась ему на шею.

– Я так не хочу, чтобы ты уходил! – прошептала она, прижимаясь щекой к его влажной и теплой груди.

Озадаченный, Стив аккуратно обнял ее.

– Эй, эй, что ты, милая… Все в порядке. Я не уйду.

* * *

Это был не самый лучший день в жизни старшего технического эксперта в области ИИ-продуктов Комиссии по ценным бумагам Ильи Демидова. Началось все с того, что он открыл глаза и понял, что все вокруг плывет, – чип зрительного импланта, который «Неокорп» заменил ему на днях в рамках глобальной отзывной кампании, все еще не откалибровался. На прикроватной тумбочке Илья нащупал кусок картона, который ему выдали в клинике, и поднес его к глазам.

Через несколько секунд зрение нормализовалось, и он увидел изображение на картине – репродукцию четвертой версии «Подсолнухов» Ван Гога. Подсолнухи всегда представлялись Демидову высокими, стремящимися к свету, многочисленными, радостными, жизнеутверждающими. В его воображении всплывали желто-зеленые поля, которые он видел из окна машины в детстве, еще до войны, когда с родителями мчал в отпуск на юг. Однако вангоговские были иными. Бледно-желтая стена, грязно-желтое основание, на котором стоит ваза с растрепанным вялым букетом, напоминающим скорее пучок глазастых щупалец инопланетян из бульварной фантастики шестидесятых годов двадцатого века, чем растения.

Илья знал, что, помимо подсолнухов в вазе, на картинке было примерно полторы тысячи точек, выстроенных в особом, кодированном, порядке. Эти точки, вместе с палитрой картины, помогали чипу сориентироваться и начать правильно транслировать картинку на зрительный нерв Ильи. В «Неокорпе» сказали, что окончательная калибровка произойдет примерно через неделю, и посоветовали держать картинку при себе.

«Вот тебе и совершенная аугментация», – разочарованно констатировал Демидов, вспоминая рекламный проспект «Неокорпа» и раздражаясь необходимостью таскать с собой картинку и регулярно пялиться на нее еще целых пять дней. Затем он проверил заряд кардиостимулятора – тот был в норме.

От калибровки разболелась голова. Не в силах больше смотреть на подсолнухи, он с раздражением отложил картинку. «Интересно, почему подсолнухи? – задался он вопросом, закрыв глаза в надежде унять боль. Он, кажется, читал в какой-то научной статье об этом. Что-то в этой картине было особенно подходящим для калибровки чипа. Историю самой картины он помнил еще с университетских времен. Это был один из четырех вариантов, написанных художником в Арле, летом 1888 года, чуть меньше чем за два года до смерти и примерно за полтора года до того, как он поссорился со своим лучшим другом Полем Гогеном, чуть не убил его с помощью бритвы, а потом, возможно той же самой бритвой, отрезал себе то ли мочку, то ли ухо целиком.

Еще он вспомнил, что у самого Гогена была картина, изображавшая Ван Гога рисующим подсолнухи. На ней видно, что странная форма растений – не выдумка художника. Что у Ван Гога, что у Гогена подсолнухи были чахлыми, уродливыми. Разве что у последнего они напоминали не инопланетные щупальца, а неудавшиеся блины: кривые, оранжево-коричневые окружности с редкой окантовкой из слабых лепестков, словно стыдясь себя, отворачиваются от рыжебородого мастера, который сосредоточенно пытается уловить их суть и перенести на холст.

Гоген и Ван Гог были друзьями, и картина первого – символ этой дружбы. У Демидова не было друзей и родных. У него никого не было, кроме Марии. Мария тоже любила рисовать, но не любила Ван Гога. Из его относительных современников ей нравились Икинс, Бретон, но особенно Лего. Илья не раз заставал ее неподвижно созерцающей его «Джузеппе Мадзини на смертном одре». Она говорила, что вид умирающего итальянского революционера успокаивает ее. С юмором у нее тоже все было в порядке.

Мария. Прошлой ночью она снилась ему. Секунду после пробуждения он даже думал, что, игнорируя все запреты, он случайно вышел в стазис, но хоть стазис и является формой сна, прошлой ночью он просто спал, а не встречался с любимой. Его мозг в очередной раз пережевывал воспоминания об их прежних встречах. От мысли о ней у него дернулось в солнечном сплетении и стало горько во рту. С уходом Марии давно забытая дилемма, хочется ему жить или нет, вернулась и висела над его головой чугунным вопросительным знаком. А ведь он уже начал было думать, что эти мысли в прошлом. Что весь свой одинокий путь он проделал, чтобы встретить ее и больше никогда не страдать.

Когда головная боль немного унялась, он кое-как доставил себя в душ на пять минут, запихнул в рот оставшийся с вечера бутерброд с холодной курицей и запил кофе. Сорокалетний холостяк со стажем, он предъявлял не слишком высокие кулинарные требования. По крайней мере, пока находился не в стазисе.

Пока чистил зубы, глядел на свое морщинистое лицо в покрытом каплями зеркале. Искусственные глаза лихорадочно расширяли и сужали зрачки: отражение то расплывалось, то снова становилось четким. Монотонно начищая потускневшую эмаль своих зубов, Демидов отмечал, как от барахлящего импланта меняется его внешний вид. В размытом состоянии он выглядел сносно: просто среднестатистический человеческий силуэт телесного цвета, без выдающихся признаков, а только с мягкими затемнениями на участках, где свет сталкивался с рельефом его тела и тот отбрасывал жидкую тень. В четком – не очень: сгорбленный, морщинистый сгусток плоти с ненатурально яркими голубыми глазами и редеющей седой шевелюрой. По современным меркам, в свои сорок он уже был в конце пути. Большинство людей теперь едва ли доживали до пятидесяти – один из десятков вирусов, разгуливавших по планете после войны, рано или поздно добирался до каждого. Впрочем, с тех пор как в его жизни не стало Марии, Демидова это не беспокоило.

В момент фокусировки взгляд его зацепился за серое пятно в месте, где раковина соединялась со стеной. Выплюнув белую от пасты слюну, он нагнулся, чтобы рассмотреть получше: пятно распалось на сотни очагов молодой плесени. В панике он бросился на кухню и вернулся в перчатках, с губкой и дезинфицирующим спреем.

Следующие четверть часа он лихорадочно уничтожал очаг плесени. Он тер губкой пораженное место до тех пор, пока биоанализатор, встроенный в его имплант, не сообщил о практически полном отсутствии угрозы. От одной мысли о бактериях, микробах, плесени и прочих представителях микромира Илье становилось трудно дышать, а его ладони и пятки начинали потеть.

На выходе из дома в него врезался хмурый бугай в кожаной куртке, и кофе из бумажного стакана, который Демидов держал в руке, чуть не выплеснулся ему на штанину. Буркнув совсем не искреннее «сорри», бугай протиснулся в парадное и бодро зашагал к лифту, будто ничего не произошло. От мужчины распространялся тяжелый чесночный дух. Илья так опешил, что даже не нашел, что сказать грубияну вслед, а лишь злобно посмотрел на его бычью шею, по которой порхала татуированная живыми чернилами бабочка. Такого странного персонажа в их кондо он прежде не встречал. Он с грустью задумался о миллионе болезнетворных бактерий, которых, должно быть, оставил на его одежде этот контакт. «Не забыть сдать этот пиджак в химчистку. Подумать над поисками новой квартиры», – отметил он про себя.

Утро было удушливым. Только он вышел на пустынную улицу, как почувствовал, что его спина под рубашкой покрылась потом, а на лбу выступила испарина. Он осмотрелся: влажность была такой, что тропический лес, в котором утопал его квартал, «плакал», будто после дождя. К кромке тротуара бесшумно подкатил одноместный электромобиль.

Сев в такси и бросив короткий взгляд на карту, красневшую многочисленными линиями заторов, он смиренно признал: день точно будет так себе. И не только потому, что имплант барахлит, а хамы все еще ходят по земле, но и потому, что сегодня ему предстояло «пристрелить единорога».

Сидя в машине, искусственные мозги которой сосредоточенно следили за расстоянием до таких же автономных машин, толкавшихся в утренней пробке, он вполуха слушал какое-то разговорное политическое радио-шоу и размышлял о том, что его работа иногда представляет собой исключительно мерзкое занятие. А ведь теперь, когда Мария исчезла из его жизни навсегда, работа – это все, что у него осталось.

Если кратко, то она заключалась в том, чтобы подтверждать или опровергать ценность продукта компании, собиравшейся размещать акции на бирже или уже торгующей там, но планирующей представить новый продукт на базе непроверенных разработок.

Каждый день он читал сотни страниц технической документации, проводил пятерку встреч с экспертными группами и представителями исследуемых компаний, чтобы в конце концов сдать в комиссию файл на несколько десятков мегабайт, в котором подробно – с картинками и видео – объясняется, почему исследуемый продукт соответствует или не соответствует заявке его создателей. Одной из его задач также являлась проверка соответствия продукта законодательству, регулирующему сферу технологий искусственного интеллекта, – главным образом на соответствие акту 202.118.9.147, ключевому закону, определяющему, является ли рассматриваемая технология безопасной для пользователя.

За пятнадцать лет работы в управлении технической экспертизы при Комиссии по ценным бумагам через Демидова прошла добрая сотня компаний. Многие из них он безжалостно зарубал, признавая их продукты мошенничеством или представляющими опасность, но большинство одобрял и пускал в мир больших денег.

За это время он слышал самые разные обвинения в свой адрес: что он работает в сговоре с крупными технологическими конгломератами, не пускающими на рынок перспективных игроков; что своим решением он лишает хлеба сотни сотрудников, которые потеряют работу в результате публикации его отчета; что он тупой и не понимает судьбоносность предлагаемой технологии; что он ретроград и традиционалист, луддит1 даже, и так далее. Десятки раз ему предлагали взятки – иногда астрономические суммы, – но ни разу Илья не поддался соблазну, чем по праву гордился. Несколько раз ему угрожали убийством, а однажды даже попытались воплотить угрозу в жизнь, послав в его квартиру микродрон с обоймой ядовитых дротиков. Экстренное срабатывание охранной системы тогда выжгло всю электронику в его жилище, и на несколько недель он погрузился в девятнадцатый век – читал очередные заявки при свете свечи, с бумажных листов.

Хотя работа его была иногда чудовищно скучной, а иногда – излишне «веселой», все эти пятнадцать лет он ходил туда с удовольствием, поскольку знал, что занят полезным делом, и неприятные инциденты, спровоцированные его решениями, лишний раз доказывали: он все делает как надо. К тому же большинство компаний, с которыми ему довелось работать, действительно предлагали миру нечто новое и красивое. Словом, Илья Демидов был преданным фанатом своего дела, и оттого особенно неприятно ему было толкаться в пробках на пути к офису компании «Ленсетив».

Учитель, вынужденный поставить «неуд» студенту-любимчику, чувствует досаду и разочарование. Когда студент весь семестр подавал надежды, но так и не смог сдать важный экзамен – это неудача не только студента, но и его учителя. Компания «Ленсетив», успешный до недавнего времени стартап в области разработки персональных ИИ (искусственных интеллектов), была для Ильи как раз таким студентом.

До прихода «Ленсетива» на рынок пять лет назад, персональные ИИ были развлечением для богатых – дорогим и примитивным. Тройка развлекательных гигантов под брендом «живой цифровой собеседник» продавала доступ к невероятных размеров базе оцифрованных паттернов поведения, управляемых алгоритмами, разработанными в самом начале века и называла это социальными ИИ. Возможность завести цифрового друга, который поддержит тебя в трудную минуту, поможет советом, расскажет анекдот, от которого тебе будет смешно, споет песню и сделает еще пару сотен простых ментальных движений, стоила примерно как месяц аренды квартиры где-нибудь в центральном Сан-Франциско.

С технологической точки зрения эти проекты не стоили и цента, были тупыми роботами, предсказуемость поведения которых пытались компенсировать ежемесячным набором новых сценариев. Однако маркетинговым воротилам удалось убедить состоятельных потребителей в элитарности продукта, и иметь собственный ИИ стало модным среди сильных мира сего: у президента Объединенных территорий Северной Америки имелся личный советник; поп-звезды «сочиняли» хиты в соавторстве с искусственными поэтами и композиторами; завсегдатаи гламурных вечеринок обменивались историями о том, какими интересными мыслями делились с ними их персоналы.

«Ленсетив» все изменил. Компания вышла на рынок с проектом социальных ИИ со степенью свободы если не абсолютной, то достаточно большой, чтобы даже самый пытливый человеческий разум, искушенный уловками существующих коммерческих ИИ, не мог отличить искусственного собеседника от настоящего. В основе революционного продукта лежал набор алгоритмов, обеспечивавший невиданную до того реалистичность поведения персоналов. Официально в компании это никогда не подтверждали, но эксперты сходились на том, что, скорее всего, «Ленсетиву» удалось точно смоделировать человеческий мозг и воспроизводить его в условно бесконечных вариациях.

Персоналы «Ленсетива» стопроцентно соответствовали и акту 202.118.9.147. Последнее было доказано в результате сотен проверок – в том числе с помощью других «настоящих» ИИ-сущностей. Вероятность проявления подлинного произвольного поведения – или поведения в пользу интересов самого персонала и против интересов клиента – оценивалась в 0,000000003 процента. С каждым новым обновлением эта цифра уменьшалась. Вторым «убийственным свойством» разработки «Ленсетива» была ее микроскопическая по сравнению с существующими аналогами цена. С первого дня продаж позволить себе завести персонала мог любой, у кого была пара сотен свободных монет в месяц. Всего два года спустя после старта, у «Ленсетива» было более 250 миллионов клиентов по всему миру, и каждый день приносил десятки тысяч новых. Почему люди вдруг массово стали заводить себе виртуальных людей, снижая количество контактов с живыми соплеменниками до минимума? Многие считали, что война, в ходе которой массово использовалось биологическое оружие и которая оставила след в виде нескольких смертоносных вирусов, гуляющих по планете, была главной причиной. Постоянная биологическая угроза сильно поубавила желание людей иметь физические контакты. Они все еще случались, но количество социофобов, чьи страхи произрастали из вирусной угрозы, увеличивалось с каждым годом.

Лично Демидов считал, что причина популярности персоналов «Ленсетива» заключалась в простоте. Проще создать себе друга, любовницу, ребенка, пса – кого угодно, чем методом проб и ошибок искать их в серой недружелюбной толпе. Хоть в среднем люди все еще считали себя уникальным явлением, венцом творения и так далее, рынок говорил о том, что они осознали и приняли правду: никаких мистических единств душ, любви, дружбы и прочих сказочно-романтических явлений не существует. Есть просто потребность в различных формах социального взаимодействия, которую можно удовлетворить с помощью виртуального существа, «живущего» в нейроимпланте.

Просто ставишь себе нейроимплант, устанавливаешь на смартфон приложение L-bot, и ты больше никогда не будешь одинок. Это работает – Демидов мог подтвердить с уверенностью, поскольку испробовал технологию на себе и стал счастливым человеком. Вернее, был счастливым до тех пор, пока ее у него не отняли, – побочный эффект, с которым он не знал, как справиться.

Беда была в том, что за месяц до того, как Илья сел в машину, чтобы отправиться в офис компании и вынести ей приговор, двадцатипятилетний программист из Лондона по имени Стив Робертс, как обычно, вышел из офиса и сел в такси. Он съездил в поликлинику «Неокорпа», чтобы заменить дефектный чип в зрительном импланте – как и Демидов, он пользовался «неокорповским» продуктом и попал под глобальный отзыв. Потом – в бассейн, чтобы проплыть свои обычные полтора километра, затем заскочил в супермаркет – купить еды и, наконец, добрался до дома в Ноттинг-Хилле, где после ужина, улегся в постель, несколько минут калибровал зрение с помощью картинки от «Неокорпа», потом перевел свой нейроимплант в стазис и больше никогда не проснулся.

Как показало расследование, в ходе сеанса взаимодействия с его персоналом, которым была виртуальная девушка по имени Кейт (модель K-209i по каталогу «Ленсетива»), Робертс, вопреки всем ограничениям, находился в стазисе недопустимо долго.

С персоналами можно взаимодействовать двумя основными способами: «звонить» по голосовой связи, писать текстовые сообщения, общаться в видеочате или с помощью шлема виртуальной реальности. Этот сценарий взаимодействия называют базовым. При использовании второго способа – стазисного сна – пользователь погружается в управляемое сновидение и там испытывает весь возможный спектр ощущений. Как если бы персонал существовал в реальности.

Однако из-за большого объема данных, который должен транслировать нейроимплант, стазисные сеансы дают высокую тепловую нагрузку на ткани мозга. По этой причине взаимодействия с персоналом в стазисе не могут длиться больше получаса реального времени в день – более длительное пребывание в этом состоянии чревато серьезными физическими повреждениями мозга. Из-за этого время в стазисном режиме по отношению к времени в реальности сжато: находящийся в стазис-сне владелец персонала может за 30 минут реального времени «прожить» примерно 24 виртуальных часа.

Стив Робертс пробыл в стазисе два с половиной часа реального времени и дотла спалил себе мозг. Ни одна из «экстренных» систем его импланта не сработала.

Анализ последних часов виртуальной жизни Робертса показал, что именно Кейт спровоцировала смерть Стива. Владея информацией о превышении временн'ого лимита пребывания в стазисе, она не прервала сеанс, а продолжила его, как того желал Стив.

Если отбросить летальный исход, это была романтическая история. ИИ-аналитики службы по контролю над технологиями хором заключили: между Стивом и Кейт возникла эмоциональная связь. Причем со стороны персонала эта связь была столь же подлинна, сколь и со стороны человека. Виртуальная Кейт искренне не желала, чтобы Стив покидал ее и многократными просьбами остаться заставила его обнулить счетчик стазисного времени как минимум четыре раза.

Технически это означало, что вероятность произвольного поведения персонала далеко не так низка, как было определено в ходе предварительного моделирования. Это означало, что алгоритм был плох.

Дело Стива Робертса подняло невероятную истерию в СМИ. Заголовки пестрили ключевыми словами «смертельно опасный ИИ» и сообщали о новых летальных инцидентах, ни один из которых, насколько было известно Илье, не подтвердился. Но это и не было нужно. Люди в панике удаляли со своих персональных имплантов софт, купленный у «Ленсетива», волна коллективных судебных исков обрушилась на компанию. Интересно, что многие истцы обвиняли «Ленсетив» не в том, что компания подвергла их жизни опасности, а в причинении моральной травмы, вызванной тем, что им пришлось прекратить стазисное общение со своими персоналами. Люди считали, что «Ленсетив» неправомерно разлучил их с любимыми, и Демидов – если бы не требование его профессии занимать максимальный нейтралитет во всем, что касается компаний, в отношении которых ведется следствие, – присоединился бы к этой разъяренной толпе.

Акции за неделю потеряли семьдесят процентов стоимости, продажи упали до нуля, большинство сотрудников в спешке разбежались, а регуляторы объявили о начале расследования деятельности компании. Глава компании и главный изобретатель Марк Шекович, как мог, спасал ситуацию, раздавая интервью, в которых утверждал, что Кейт, по умолчанию, не могла причинить вред человеку просто потому, что это математически исключено. Группа специалистов, проводивших аудит алгоритмов «Ленсетива», соглашалась с этими доводами, но их никто не слышал. Реальность была иной – робот убил человека.

Последним гвоздем в гроб компании должно было стать заключение Ильи, подтверждающее опасность технологии. Заключение давало легальные основы для прекращения торгов акциями компании, распродажи ее имущества и интеллектуальной собственности с целью компенсации убытков инвесторов и удовлетворения претензий истцов.