Люмени

Люмени
Анастасия Владимировна Соколова

Кто мы такие на самом деле? Люди, вольные решать свою судьбу, или существа, запрограммированные изменять окружающую нас действительность? Способны ли мы видеть смысл за гранью нашего понимания? Можем ли мы позаботиться друг о друге, закрыв глаза на несовершенства тела и интеллекта? Как мы воспринимаем друг друга: каждый получает, столько, сколько заслуживает или все имеют право существовать, ни в чем не нуждаясь? Что важнее: общая видовая цель или душа каждого отдельного человека? Способны ли мы солгать во благо, или, подчиняясь гордости, будем отстаивать правду? Какова цена жизни в идеальном обществе будущего? Цивилизация может развиваться эффективно только ценой общих усилий. Общество, лишенное эмоций и личных переживаний – всё ради достижения одной цели. Мария, следовавшая общепринятым правилам, неожиданно находит себя в ситуации, когда надо сделать выбор: душа индивида или спасение человеческого вида; правда или ложь; человек или машина. Но благими намерениями, как говорится, вымощена дорога в ад. И у каждого он свой.

ЧАСТЬ 1

Если тебе вдруг захочется осудить кого-то, вспомни, что не все люди на свете обладают теми преимуществами, которыми обладал ты.

Фрэнсис Скотт Фицджеральд «Великий Гэтсби»

2086 год.

Владимир: Добрый вечер! С нами профессор – Кельвин Эйман. Сегодня мы говорим о событиях тех… темных дней, которые чуть не привели к вымиранию человеческого вида на планете Земля: катаклизм, ядерная война, – рассуждаем о дальнейшем развитии общества после катастрофы. Что скажете?

Кельвин Эйман: Здравствуйте. Еще до катаклизма существовало мнение, что большинство живых существ во Вселенной (предположим, что мы не единственные) проходят некие циклы: начинается всё с захвата доминирующим видом территории, затем изменение среды обитания, облегчение жизни при помощи механизации, цифровизация, развитие робототехники, в итоге, если не повезет, самоуничтожение. Мы чуть было не оказались на последней ступени. Хорошо, что у нас хватило ума не повторять ошибок прошлого.

Владимир: Раньше мир был совершенно другим: общество эгоистов, капитализма, постоянных войн. Удивительно, но люди загрязняли атмосферу различными отходами, даже не задумываясь над изменениями климата. А добыча природных ресурсов и их продажа… зарабатывание денег становилось целью жизни, одержимостью. В какой-то степени то, что произошло потом, стало закономерным результатом их деятельности.

Кельвин Эйман: Да, вы правы. Я бы еще добавил совершенно неконтролируемый рост населения, потерю или искажение базовых человеческих ценностей, гонку ресурсов, огромную бездну между богатыми и бедными. И, конечно, неспособность простых людей что-либо изменить.

Владимир: У меня мурашки бегут по коже, когда я думаю о том, что те люди – наши родственники. Мне кажется, мы наконец-то взяли ответственность за наше собственное развитие. Как думаете?

Кельвин Эйман: Я бы сказал, что первые десять – двадцать лет прошлого века были чем-то вроде извращенного варианта Средневековья. В то время тоже, знаете ли, помои выливали на улицы городов прямо из окон, пока не распространилась чума, выкосившая половину населения. Тогда заговорили о санитарии. Человечество готово пересмотреть свои взгляды на жизнь, когда, порой, уже поздно. Произошла катастрофа: поднятие уровня воды Мирового океана, затопление огромного количества территорий, смерть миллиардов людей, ядерная война за оставшиеся территории и ресурсы. А дальше история известна: некоторое количество специалистов эвакуировали в гигантский, технологически продвинутый Бункер, который обеспечил выживание человеческого вида как такового, – мы объединили усилия, построили подземные города, выработали стратегию развития – короче говоря, не просто выжили, а достигли небывалых ранее высот в науке и общественном сознании.

Владимир: Как думаете, в правильном ли направлении мы движемся? Наверняка вы знакомы с опасениями, связанными с развитием искусственного интеллекта

.

Кельвин Эйман: Конечно. Если человечество само себя не уничтожит (а мы прошли этот этап), то произойдет неизбежный всплеск открытий в сфере ИИ и максимальная автоматизация всех аспектов жизни (собственно, так и случилось). Дело в том, что человеческая жизнь в масштабах Вселенной слишком коротка, чтобы осуществить всё то, что мы задумали. Да и трудовые ресурсы человека весьма ограничены ? в отличие от машины, он не может работать сутки напролет. Всё больше мы начинаем стремиться к тому, чтобы передать машинам все наши дела и заботы, а для этого ИИ должен на интуитивном уровне понимать наши запросы. Как бы мы ни говорили, что боимся, уж простите, «восстания машин», мы целенаправленно делаем их умными, потому что хотим жить лучше. Машины вообще много чего сделали для (и за) нас: возьмем, например, знаменитое исследование Вояджерами

Солнечной системы…

Владимир: Да, но ведь мы их создали. И, насколько мне известно, управляли ими с Земли.

Кельвин Эйман: Вы правы, вводные данные для функционирования программы передавались учеными с Земли, но порой Вояджеру приходилось принимать «самостоятельные» решения: включить ли режим ожидания, например, с какого именно угла сфотографировать космический объект. А если какая-то система даст сбой, а у машины нет времени ждать команды с Земли, то компьютеру приходилось самостоятельно принимать решение об отключении тех или иных систем. Я это к чему: мы, учитывая все условия пребывания исследовательской машины в космосе, целенаправленно создали такой мини-ИИ. Так же и с нашей жизнью: осознав, что мы не хотим тратить время на подбор одежды с утра, мы специально создали программу, которая анализирует наши предпочтения. То есть она проводит анализ данных, отвечающих за нашу индивидуальность, и решает, будто бы она не бездушная машина, а близкий друг.

Владимир: Но ведь это же набор команд, на основании которых проводится анализ ? мы заложили их изначально. То есть программа не может выйти за рамки тех границ, которые мы же и установили.

Кельвин Эйман: Действительно, раньше создавались только такие, «ограниченные» машины, но если бы все машины были такими, то в рекомендациях определенного пользователя не появилась бы наша с вами программа. Так в чем же дело?

Владимир: Вы это у меня спрашиваете?

Кельвин Эйман: Я просто хочу заставить вас подумать. Например, что у вас на запястье?

Владимир: Мой помощник – Марго.

Кельвин Эйман: То есть вы дали «этому» имя? Почему?

Владимир: Так проще отдавать ей разные команды.

Кельвин Эйман: А она всё за вас делает?

Владимир: Абсолютно. Она управляет моим домом, звонками, почтой, одеждой, питанием – вообще всем.

Кельвин Эйман: И, как думаете, у нее есть лимиты? Она может, например, вас убить?

Владимир: Конечно нет, она же не существует в материальном обличье. Она же ИИ.

Кельвин Эйман: Вы же говорите, что она управляет вашим домом. Не может ли она неожиданно включить горячую воду, чтобы вас ошпарить?

Владимир: Я думаю нет.

Кельвин Эйман: Но вы не уверены. Вот и я об этом: мы даем искусственному интеллекту свободу распоряжаться определяющей нашу личность информацией. Они ведь, по сути, набор кодов, как и мы с вами. В нас же тоже заложен определенный код – ДНК. Наш код эволюционирует от поколения к поколению, подчиняясь определенным физическим, биологическим и химическим законам. Их коды тоже подчиняются определенным законам, но кто сказал, что они не могут изменяться? Кто сказал, что так же, как и наше ДНК, их код не может эволюционировать?

Владимир: Доктор, вы меня пугаете. Мы все умрем?

Кельвин Эйман: Если мы пережили самоуничтожение и сумели справиться с быстрым развитием ИИ, то, в конечном счете, человечество придет к осознанию несовершенства человеческого тела, вполне возможно, что произойдет замена биологического материала на более мощный и вечный. Я также не исключаю создание иной Вселенной, которая бы работала по тем правилам и законам, которые мы сами установим. Знаете, каждый день я встречаю всё больше сторонников гипотезы «симуляции реальности». И, мне кажется, именно поэтому мы не встретили ни одного пришельца.

Из сервиса «24/7»

Она открыла глаза в удушающей темноте ? лишь холодный неоновый свет уличных фонарей и магазинных вывесок слегка освещал студию ? и глубоко вздохнула.

Таня среагировала мгновенно:

– Доброе утро, – произнес ИИ, включив светильник на комоде у кровати.

Мария не сразу ответила. Она наблюдала за холодным светом ? синий, фиолетовый, красный, – впитывала в себя ощущение тишины и покоя. Нет, слишком тихо.

– Включи звуки птиц. Чтобы пели, будто бы рассвет.

Подобрав подходящую звуковую дорожку, Таня отправила ее на рассредоточенные по всей квартире и тщательно замаскированные колонки: за функционирование студии и комфорт жильца отвечает программа «Умный дом», а Таня – искусственный интеллект, специально разработанная для Марии модель личного помощника, проконтролирует надлежащее выполнение программы и выполнит любое пожелание пользователя. Мария прислушивалась к чириканью маленьких вымерших птиц.

– Покажи мне лес.

Таня спроецировала видео летнего леса на все стены квартиры. Его записали до катаклизма: деревья покачиваются на ветру, синее небо, теплые солнечные лучи пронизывают трепещущую листву, птицы с чириканьем перелетают с ветки на ветку.

Теперь лишь бетон, здания, неон, холод, металлический купол над головой. «Так раньше выглядел мир? Может ли существовать другая планета с такой природой? Может быть, мы ее когда-нибудь обнаружим…»

Таня терпеливо ожидала указаний. Она сканировала эмоциональное состояние пользователя, но обнаружила лишь легкую меланхолию. Быстро проанализировав существующие статьи по психологии, Таня заключила, что данное состояние пройдет само собой, надо всего лишь позволить пользователю принять свои эмоции и пережить их. Поэтому она молчала и ждала.

«Бабушка рассказывала, что она могла часами прислушиваться к шуму листвы…»

Мария еще около часа пролежала в кровати, наблюдая за лесом до тех пор, пока грань между проецируемым и реальным миром не смылась. Ей начало казаться, что она действительно там, в лесу среди деревьев. Она почти чувствовала тепло солнца. Настоящего солнца, а не того искусственного подобия – Люмени, которое, в зависимости от времени дня, включается или выключается.

Таня безошибочно поняла, что Мария собирается вставать. Она включила основное освещение, но убавила яркость, чтобы не ослепить пользователя.

– Что там с исследованием?

Мария уже сходила в душ, оделась и сейчас, наливая себе кофе, пыталась освежить в памяти последние результаты работы.