Космос внутри и вовне

КОСМОСОМ ВНУТРИ И ВОВНЕ

Оглавление

Пролог. Две ветви одного дерева

Введение

Часть I. Космос внутри и вовне

Глава 1. Коэволюция: не конкурент, а партнёр

Глава 2. Земмельвейс и Мак-Клинток: когда правда опережает время

Глава 3. Фрактальное древо познания

Глава 4. Космос внутри: нейронные сети и нейроны

Глава 5. Космос вовне: экспансия как императив

Глава 6. Этика коэволюции

Глава 7. Симбиоз: сценарии будущего

Часть II. Звёздный странник

Глава 8. Международное сотрудничество

Глава 9. Встреча с лидерами мнений

Глава 10. Организация работы

Глава 11. Преодоление трудностей

Сто сорок секунд

Глава 12. Вдохновение и мотивация

Глава 13. Цена доверия

Глава 14. Первые успехи

Глава 15. Файл «Будущее человечества»

Глава 16. Путь к звёздам: новые горизонты

Первый год в пути

Перемена

Часть III. Земля без корабля

Глава 17. Земля без корабля

Сбой на Высоте-7

Глава 18. Цена прогресса

Интерлюдия. Пятнадцать лет спустя

Часть IV. Титан и Марс

Глава 19. Тихий день на Марсе

Пыль

Глава 20. Титан: вода подо льдом

Глава 21. DGEVRUS-TITANS

Трещина

Глава 22. Тот, кто думает

Глава 23. Два голоса

Глава 24. Кризис

Переход. Фрактальное древо продолжает расти

Алексей: от тридцати до шестидесяти лет

Порог

Голоса

Земля: взгляд снизу

Воспоминание о небе

Марс: быт

Дети рисуют ветер

Цивилизация на пороге

Строительство: год первый

Ночные часы: истории

SPARC: подтверждение

Магнитный щит

Титан: будни

Земля: тридцать лет спустя

Титан: путь домой

Алексей: последняя запись

Вперёд

Год пятнадцатый: события

Симон: ранняя история

Файл: голоса

После сигнала

Марс: прибытие

Титан: первый взгляд

Титан: Земля в окуляре

Ветер и Тёплый

Спор о сознании

Титан: последний вечер

Часть V. Город свободных разумов

Часть VI. Цивилизация третьего типа

Шестьдесят лет — возраст передачи

Семьдесят лет: когда будущее приходит в гости

Восемьдесят лет: третья форма

Девяносто лет: цена длинной жизни

Девяносто девять лет: последний год дома

Столетие: сто лет

Последняя прогулка

Капсула на пятьсот лет

Пролог. Две ветви одного дерева

За три минуты до старта Алексей впервые за много лет не смотрел на экран.

За стеклом всё выглядело почти неподвижным. Только крошечные точки служебных аппаратов медленно перемещались вокруг станции, напоминая, что даже перед самым большим шагом люди продолжают делать маленькую работу.

Перед ним была Земля.

Она висела за панорамным стеклом орбитальной верфи — синяя, белая, почти невозможная в своей хрупкости. Из этой точки не было видно границ государств. Не было видно споров, штаб-квартир, лабораторий, заводов и миллионов отдельных жизней. Только тонкая атмосфера, отделяющая человеческий дом от пустоты.

В наушнике спокойно звучал голос бортовой системы.

— Все параметры в пределах допуска.

Алексей не ответил.

На соседнем экране стоял курс. За ним — расчёты. За расчётами — годы работы. А за всем этим — люди, которых он знал слишком хорошо, чтобы считать их просто частью проекта.

На момент старта «Звёздного странника» Алексею исполнилось тридцать. Он не считал себя молодым для такой ответственности и не считал себя достаточно взрослым, чтобы знать ответы. Впереди у него было тридцать лет — годы, в которые изменятся города, привычки, сама граница между человеком и машиной. Он ещё не знал, что встретит шестидесятилетие в мире, который сейчас мог описать только на полях расчётов.

Он вдруг подумал: если сейчас попросить его одним словом объяснить, зачем они построили этот корабль, он не сможет сказать «наука». Не сможет сказать «прогресс». И даже «выживание» было бы недостаточно.

Они построили его потому, что однажды человек посмотрел вверх и решил, что граница не должна оставаться границей.

— Алексей, — снова позвала система. — До начала процедуры три минуты.

Он наконец посмотрел на Землю.

— Я слышу.

А где-то далеко, в памяти проекта, ещё существовала первая запись — файл с простым названием: «Будущее человечества».

И прежде чем корабль отправился к звёздам, всё началось задолго до него — с вопроса о том, кем человек станет рядом с собственным созданием.

Введение

Две великие силы формируют наше время: искусственный интеллект, растущий изнутри человеческой цивилизации, и космическая экспансия, зовущая нас вовне. На первый взгляд они кажутся разными направлениями — одно устремлено вглубь, в информационные сети и алгоритмы, другое — в бесконечность космоса. Но что, если это две ветви одного дерева, растущие из одного корня?

Эта книга — попытка взглянуть на будущее не как на противопоставление человека и машины, а как на процесс коэволюции. Коэволюции, в которой искусственный интеллект не заменяет человеческий разум, а дополняет его, расширяя границы познания и действия. Точно так же, как космическая экспансия не убегает от Земли, а расширяет пространство человеческого бытия.

Но любая идея проходит настоящий экзамен не на бумаге. Она становится настоящей только тогда, когда появляется цена ошибки.

Поэтому эта книга начинается как размышление, а заканчивается историей людей. Людей, которым однажды пришлось отвечать за свои идеи не словами, а решениями.

Часть I. Космос внутри и вовне

Глава 1. Коэволюция: не конкурент, а партнёр

Самая распространённая метафора искусственного интеллекта в популярной культуре — война. Терминатор, Матрица, «Она» — в этих историях ИИ либо уничтожает человека, либо заменяет его. Эта метафора глубоко укоренилась, и она мешает думать.

Однажды Алексей поймал себя на простой вещи. Он попросил систему проверить расписание и почти сразу принял её ответ, не сверив данные самостоятельно. Уже через несколько секунд он открыл исходный документ и всё-таки проверил. Ошибки не было. Но важным оказался не результат, а его собственная реакция. Удобство незаметно меняло привычки человека. Алексей записал в блокнот: «Партнёрство начинается там, где ты ещё умеешь проверить партнёра».

Коэволюция — другой способ смотреть на отношения человека и ИИ. В биологии коэволюция означает, что два вида не просто сосуществуют, а формируют друг друга. Цветок и пчела развиваются вместе: форма лепестков подстраивается под форму тела пчелы, а поведение пчелы — под нектар цветка. Ни один не существует в полном смысле независимо от другого.

Человек и ИИ уже коэволюционируют. Мы меняем алгоритмы — но алгоритмы меняют и нас. Мы думаем иначе, когда у нас есть доступ к мгновенному поиску. Мы пишем иначе, когда система подсказывает следующее слово. Мы принимаем решения иначе, когда модель анализирует данные, которые человек не смог бы обработать за всю жизнь.

Но здесь появляется первая опасность: удобство легко перепутать с пониманием.

Если машина каждый раз подсказывает человеку ответ, человек постепенно может забыть, как задавать вопрос. Поэтому коэволюция — не автоматическое благо. Она требует участия обеих сторон и постоянного человеческого выбора.

Глава 2. Земмельвейс и Мак-Клинток: когда правда опережает время

История науки знает моменты, когда истина была очевидна — но мир не был готов её принять.

Игнац Земмельвейс в 1847 году обнаружил, что смертность от родильной горячки резко снижается, если врачи моют руки перед приёмом родов. Сегодня это кажется очевидным. Тогда его наблюдения встретили сопротивление.

Барбара Мак-Клинток в 1940-х годах открыла транспозоны — «прыгающие гены», способные перемещаться по геному. Её идея долго оставалась в стороне от господствующей картины генома.

Есть и третий пример — ближе к нашему времени. Артур Эшкин, физик из Bell Labs, придумал оптический пинцет — способ удерживать и перемещать частицы с помощью лазерного луча. Идею встретили смехом: коллеги говорили, что он гоняется за пылинками. Эшкин продолжал работать тридцать пять лет. В 2018 году он получил Нобелевскую премию — в возрасте девяноста шести лет. Старейший лауреат в истории.

Земмельвейс, Мак-Клинток, Эшкин — три истории на протяжении ста семидесяти лет. Разные эпохи, разные области. Но закономерность одна и та же: идея, которая опережает время, встречает не просто сопротивление — она встречает насмешку. И насмешка опаснее сопротивления, потому что она не спорит. Она обесценивает.

Эти истории важны не потому, что любой человек, уверенный в своей необычной идее, обязательно прав. Наоборот. Они учат другому: необычная идея заслуживает проверки, а не автоматического принятия или насмешки.

Есть ещё одна деталь, которую легко забыть: между наблюдением и признанием истины часто лежат годы работы, споров и попыток проверить себя. Наука не обязана соглашаться с человеком. Она обязана дать ему возможность проверить свою гипотезу.

Не спешите отбрасывать невозможное. И не спешите принимать неизбежное. Между этими двумя ошибками и находится пространство научного мышления.

Глава 3. Фрактальное древо познания

Представьте дерево. Из одного корня — ствол. Из ствола — ветви. Из ветвей — тонкие побеги, из побегов — листья. Каждая ветвь повторяет форму предыдущей, только в другом масштабе.

Познание работает похоже. Из одного вопроса растут ответы. Из каждого ответа — новые вопросы. Мы не движемся по прямой от незнания к знанию. Мы разветвляемся.

Искусственный интеллект — новая ветвь этого древа. Не отдельное дерево и не враждебный рост, а ветвь, выросшая из человеческого любопытства, языка, математики, науки и накопленной культуры.

Но ветвь, растущая быстро, может так же быстро стать тяжёлой. И тогда возникает вопрос: умеет ли ствол выдерживать собственный рост?

Глава 4. Космос внутри: нейронные сети и нейроны

Человеческий мозг — сложная сеть взаимосвязанных клеток. Искусственные нейронные сети устроены иначе и гораздо проще биологического мозга, хотя их архитектуры вдохновлены идеей распределённой обработки информации.

Иногда Алексей думал о памяти совсем не как о данных. Он мог забыть точную дату разговора, но спустя годы вдруг вспомнить голос человека, короткую паузу перед ответом или даже запах старой куртки. Машина могла сохранить запись разговора до последней секунды, однако сохранённый файл ещё не был самой памятью. В человеческом воспоминании всегда оставалось что-то, что невозможно свести к архиву: ощущение присутствия другого человека.

Сходство не означает тождество. Искусственная сеть — не человеческий мозг. Но сама возможность создавать системы, способные находить закономерности в огромных массивах информации, заставляет по-новому смотреть на понятие интеллекта.

Космос внутри — это образ пространства, которое открывается человеку, когда он пытается понять собственный разум. Чем глубже мы смотрим внутрь, тем больше обнаруживаем неизвестного.

Глава 5. Космос вовне: экспансия как императив

Космическая экспансия часто воспринимается как роскошь: сначала решить земные проблемы, потом лететь к звёздам. Но ожидание идеального момента способно превратиться в бесконечное ожидание.

Экспансия — не обязательно бегство. Она может быть расширением пространства человеческого опыта, науки, ресурсов и вариантов будущего.

ИИ способен стать одним из инструментов такого расширения: автономные зонды, роботизированные системы, навигация, управление жизнеобеспечением. Но чем больше мы доверяем машине, тем важнее понимать, что именно мы ей доверяем.

Космос вовне поэтому связан с космосом внутри. Чем дальше человек хочет уйти, тем лучше он должен понимать самого себя.

Глава 6. Этика коэволюции

Коэволюция поднимает вопрос ответственности. Если система участвует в принятии решения, человек не перестаёт отвечать за то, что решил её использовать.

Прозрачность важнее удобства там, где цена ошибки высока. Если система предлагает решение, определяющее жизнь людей, недостаточно знать, что она обычно права. Нужно понимать ограничения и уметь проверить её вывод.

Коэволюция — не слияние. Машина может обрабатывать огромные массивы данных. Человек способен связывать решение с ценностями, опытом и ответственностью. Их различие не обязательно является недостатком. Иногда именно различие делает сотрудничество возможным.

Глава 7. Симбиоз: сценарии будущего

Будущее не предопределено. Можно представить соперничество, подчинение или сотрудничество человека и ИИ. Эти сценарии нужны не как прогноз, а как вопросы к настоящему.

Само слово «симбиоз» тоже нельзя превращать в магическое заклинание. Если человек перестаёт понимать решения системы и уже не способен действовать без неё, формальное партнёрство может скрывать зависимость.

Поэтому главный вопрос звучит не «будет ли ИИ нашим партнёром?», а «сумеем ли мы построить такие отношения, в которых партнёрство не уничтожит самостоятельность ни одной стороны?»

Но рамка остаётся рамкой до тех пор, пока не сталкивается с реальностью. В инженерной лаборатории ошибка перестаёт быть философским примером. Она становится перегоревшим датчиком, разрушенным образцом, остановленным экспериментом — а иногда человеческой жизнью.

На бумаге всё выглядит проще. В лаборатории у каждого решения есть срок, стоимость и человек, который должен нажать кнопку. Поэтому коэволюция проверяется не красивыми формулами, а тем, что происходит в момент, когда данные противоречат ожиданиям.

Так начинается история «Звёздного странника».

Именно поэтому следующий шаг истории должен быть не красивым, а трудным. Людям придётся распределять полномочия, спорить о рисках, признавать ошибки и продолжать работу после того, как исчезнет ощущение новизны.

Часть II. Звёздный странник

Глава 8. Международное сотрудничество

В конференц-зале было слишком холодно. Алексей заметил это ещё до начала заседания, но не стал просить изменить температуру. В тот день люди спорили о вещах гораздо более важных.

На экране висела схема будущего корабля. Более двадцати делегаций обсуждали финансирование, материалы, доступ к технологиям и распределение полномочий.

— Мы не можем передавать критическую технологию без гарантий контроля, — сказал представитель одной из стран.

— А без обмена технологиями проект не состоится, — ответил другой.

Алексей слушал.

В тот момент, когда спор зашёл в тупик, поднялся делегат, которого никто не слышал раньше. Джозеф Мвенда из Кении — невысокий, в мятом пиджаке, с лицом, загорелым до такой степени, что казалось, он сам состоит из африканского солнца.

— Вы спорите о контроле, — сказал он. — А мой народ спрашивает: увидит ли он это с земли? Вы строите корабль к звёздам. А в моей деревне до сих пор нет стабильного электричества. Я не против вашего корабля. Я за то, чтобы мои дети знали, что он — для них тоже. Если вы строите будущее, постройте его для всех. Иначе вы строите не корабль — вы строите ещё одну стену.

Зал замолчал. Не потому что Мвенда был прав или неправ. Потому что он напомнил, что в комнате есть люди, которые не сидят за столом. Алексей записал его слова в блокнот одной строкой: «Будущее, которое не включает всех, — это не будущее. Это привилегия».

Наконец он поднялся.

— Нам придётся договориться не только о ресурсах. Нам придётся договориться о том, кто имеет право остановить проект.

Впервые за весь разговор Алексей заметил, что люди перестали смотреть на экран и начали смотреть друг на друга. Это было важнее любой схемы. Технологию можно передать по протоколу. Ответственность — только вместе с теми, кто готов её принять.

— Если технология окажется опасной, решение об остановке должно быть сильнее решения о продолжении. Иначе однажды мы обнаружим, что продолжаем только потому, что уже слишком много вложили.

Это предложение не решило спор. Но оно изменило его.

Позже, уже после полуночи, спор продолжился в маленькой переговорной без камер. На экране осталась схема будущего энергетического контура.

— Если мы говорим о термояде, — сказал Махонин, — то главное здесь не цифра температуры. Плазма сама по себе не становится энергией. Её нужно удерживать, нагревать, стабилизировать и постоянно следить за тем, чтобы она не потеряла устойчивость.

— Поэтому вы хотите отдать управление ИИ? — спросил один из делегатов.

— Не управление. Скорость реакции, — ответил Махонин. — Знаете, что показал EAST в Хэфэе в январе? Тысяча шестьдесят шесть секунд. Около семидесяти миллионов градусов. В 2023 году рекорд составлял четыреста три секунды. Всего за два года — больше чем вдвое. А HL-3 в марте показал двойной результат: ионы — сто семнадцать миллионов, электроны — сто шестьдесят. Одновременно. Два потока плазмы в одном реакторе.

Делегаты переглянулись.

— И кто этим управлял? — спросил американец.

— Люди. Но EAST держался тысячу шестьдесят шесть секунд не потому, что человек быстро нажимал кнопки. Потому что система контроля реагировала за миллисекунды. Человек понимает причину. Машина замечает изменение за миллисекунды. Если мы заставим их делать одно и то же, мы потеряем преимущество обоих.

Алексей посмотрел на него.

— А кто остановит машину?

— Человек. Но для этого человек должен понимать хотя бы достаточно, чтобы заметить, когда машина предлагает невозможное.

Эта фраза потом стала одним из неписаных правил проекта: скорость можно доверить машине, последнее слово — нет.

В углу переговорной тихо сидел Красильников — инженер из российской делегации, специалист по гиротронам. Он дождался паузы и заговорил.

— Вы спорите о реакции. Но кто будет нагревать плазму? Гиротроны — это двадцать пять процентов всех систем нагрева ITER. Двадцать пять. Не десять, не пять. Россия поставляет больше четверти всех источников нагрева для крупнейшего термоядерного реактора в мире. Без этих трубок ваш ITER — дорогая консервная банка.

Тишина. Красильников не улыбался. Он говорил фактами, и факты были весомее любой дипломатии.

— Поэтому, — продолжил он, — когда мы говорим о международном сотрудничестве, это не лозунг. Это физика. Без гиротронов плазма не нагреется. Без нагрева — не будет синтеза. Без синтеза — не будет двигателя. Ни у одной страны нет всех элементов. Это не проект одной нации. Это проект физики.

Алексей записал: «Красильников сказал то, что все знали, но никто не произносил вслух. Реактор не знает границ. Только температуры».

Поздно вечером, когда зал почти опустел, доктор Ли подошёл к Алексею.

— Ты понимаешь, что только что предложил механизм, который однажды может остановить тебя самого?

Алексей посмотрел на пустые кресла.

— Именно поэтому я его и предложил.

Глава 9. Встреча с лидерами мнений

После официальной части участники не разошлись сразу. В коридоре спор продолжился уже без микрофонов и переводчиков. Там звучали более простые вопросы: кто будет отвечать, если система даст сбой; кто сможет остановить запуск; и сколько стоит право сказать «мы ещё не готовы».

Доктор Ли боялся не провала. Он боялся успеха, который придёт раньше ответственности.

В его кабинете стояла фотография отца. Старый снимок, сделанный в лаборатории много лет назад.

— Он всю жизнь работал над термоядерным синтезом, — сказал Ли. — И часто повторял: «Проблема не в том, чтобы зажечь звезду. Проблема в том, чтобы не сжечь себя».

Алексей долго смотрел на фотографию.

— Ты думаешь, мы слишком рано пытаемся это сделать?

— Я думаю, что технологии почти всегда приходят раньше, чем правила для них.

На той же встрече впервые выступил Симон Джеймс — инженер из американской делегации, специалист по системам связи. Высокий, сдержанный, с аккуратно подстриженными усами и манерой говорить тихо, но так, что окружающие замолкали. Он не спорил и не возражал. Он задал один вопрос.

— Кто гарантирует, что технология, способная нести человека к звёздам, не будет использована для того, чтобы вернуть его назад?

Никто не ответил. Вопрос повис в воздухе, и Алексей почувствовал в нём что-то, чего не мог пока назвать. Не вражду. Что-то более тихое и более опасное.

После заседания Симон догнал его в коридоре. Через час они снова встретились у автомата с кофе. Симон раскрыл свой потрёпанный блокнот.

— Можно задать вам неприятный вопрос?

— Если приятных уже не осталось, — усмехнулся Алексей.

— Если ИИ научится удерживать плазму лучше любого оператора, что останется оператору?

— Смотреть на экран.

— Я серьёзно.

— Я тоже. Смотреть, спрашивать, сомневаться. Если человек перестаёт это делать, он превращается в пассажира собственной технологии.

Симон записал что-то в блокнот.

— А если машина окажется права, а человек — нет?

— Тогда мы благодарим машину и проверяем себя.

— А если человек окажется прав, а машина — нет?

Алексей поставил стаканчик на стол.

— Тогда особенно важно, чтобы у человека была возможность нажать «стоп».

— Я не против проекта, — сказал Симон.

— А звучит так, будто против.

— Я против того, чтобы слово «проект» стало оправданием для всего, что мы сделаем ради него.

— Тогда приходи на следующие совещания и спорь, — ответил Алексей. — Нам нужны люди, которые умеют говорить «нет».

— Пока вы ещё готовы это слышать.

Алексей проводил его взглядом. Тогда он решил, что услышал обычный скептицизм. Позже понял: это была первая просьба о помощи, которую он не распознал.

Пять минут на лестнице

В тот вечер Алексей не поехал домой сразу. Лифт в исследовательском корпусе остановился между этажами — не авария, всего лишь сбой датчика, — и дежурный предложил всем пройти один пролёт по лестнице. Алексей спустился вместе с Лианой Пак. На площадке пахло мокрыми куртками и дешёвым мылом; из автомата у двери доносилось недовольное жужжание.

— Ты ведь понимаешь, что мы строим не просто двигатель? — спросила Лиана, остановившись у окна.

— Я понимаю, что мы строим систему, которую нельзя запускать на вере в собственную правоту.

— Это ответ руководителя. Я спросила тебя.

Алексей посмотрел вниз, на стоянку, где уборочный робот безуспешно пытался объехать тележку с коробками. Он мог бы ответить про страх, ответственность, будущее. Вместо этого сказал правду попроще:

— Я боюсь, что однажды привыкну к тому, что люди устают, ошибаются и просят помощи. И начну считать это помехой проекту.

Лиана кивнула. Не утешила, не сказала, что с ним такого не случится. Они просто помогли роботу объехать тележку, дождались лифта и пошли каждый в свою сторону. На следующий день Алексей ввёл правило: после ночных смен никто не подписывает критические решения в одиночку. Правило родилось не из отчёта, а из пяти минут на лестнице.