Укрощение искусственного интеллекта. Пособие по выживанию в нашем необыкновенном будущем

Перевел с английского Сергей Борич по изданию:

MASTERING AI: A Survival Guide to Our Superpowered Future /Jeremy Kahn. – Simon & Schuster.

Охраняется законом об авторском праве. Нарушение ограничений, накладываемых им на воспроизведение всей этой книги или любой ее части, включая оформление, преследуется в судебном порядке.

© 2024 by Jeremy Kahn

© Перевод на русский язык, издание на русском языке. ООО «Попурри», 2025

Введение: ИИ как озарение

Это называется озарением[1] – момент, когда идея, родившаяся в дальнем углу сознания, вдруг материализуется и становится осязаемой почти физически. Подобные озарения случаются как у отдельных людей, так и у общества в целом: приходит время, и все начинают понимать, что старая эпоха закончилась и на смену ей идет новая. Так бывает, когда технология воплощается в изделиях или программах, которыми могут пользоваться даже люди без специальных знаний и которые позволяют по-новому взглянуть на будущее.

Электрическая лампочка когда-то стала одним из таких озарений – и в прямом, и в переносном смысле. 31 декабря 1879 года[2] Томас Эдисон щелкнул выключателем в своей лаборатории в Менло-Парке, штат Нью-Джерси, и его лампа накаливания осветила дивный новый мир, работающий на электричестве, а не на газе или на пару. Изобретатели и ученые[3] по обе стороны Атлантики почти десять лет соревновались друг с другом в коммерциализации электричества. Но их изобретения, как правило, носили слишком научный или эзотерический характер. Эта же лампа была совсем другой: она представляла собой устройство, которое каждый мог взять в руки, рассмотреть и понять.

За последние три десятилетия мы пережили целую череду ярких моментов, связанных с цифровыми технологиями. Интернет существовал и до появления веб-браузера, но только после запуска Netscape Navigator в 1994 году наступила подлинная эра интернета. MP3-плееры были в ходу и до появления iPod в 2001 году, но они не стали толчком к революции в цифровой музыке. Смартфонами пользовались и до того, как Apple в 2007 году выпустила iPhone, но до iPhone не существовало ни одного приложения для них. А 30 ноября 2022 года[4] настал момент озарения и для искусственного интеллекта: именно в этот день исследовательская организация OpenAI представила чат-бот ChatGPT.

В качестве журналиста я освещаю тему искусственного интеллекта с 2016 года и наблюдаю за постоянным развитием этой технологии. ИИ уже давно является предметом интереса руководителей компаний и технологов, но до ChatGPT он никогда не находился в центре общественного обсуждения. Для тех, кто внимательно следил за развитием направления, прогресс казался достаточно медленным и постепенным: когда ChatGPT дебютировал, я думал, что это просто очередной шаг вперед. В конце концов, на первый взгляд чат-бот мало чем отличался[5] от модели ИИ под названием Instruct GPT, которую OpenAI запустила годом ранее. Я уже писал об Instruct GPT – важной доработке большой языковой модели OpenAI GPT-3. Instruct GPT было легче, чем GPT-3, контролировать с помощью текстовых инструкций, или подсказок. Эта модель с меньшей вероятностью выдавала расистский, сексистский, гомофобный или иной токсичный контент и могла выполнять множество задач на обычном человеческом языке: от перевода до обобщения и кодирования. Но Instruct GPT не оставила даже ряби на поверхности воды общественного дискурса.

Поэтому меня удивила реакция на дебют ChatGPT. И совершенно напрасно. Оказывается, большое значение имеют интерфейсы, которые мы используем для взаимодействия с технологией, например строка поиска Google. Как автомобиль Ford Model T представлял собой нечто большее, чем просто двигатель внутреннего сгорания и четыре колеса, так и OpenAI со своим понятным интерфейсом чат-бота оказалась в выигрыше. Для меня это понимание пришло тоже как озарение.

На протяжении бо́льшей части предыдущего десятилетия развитие ИИ происходило в узких областях. Ряд достижений ИИ, о которых я рассказывал до появления ChatGPT, касался программ, способных победить человека в играх. В марте 2016 года передовая лаборатория компании Google DeepMind[6] создала программное обеспечение под названием AlphaGo, которое одержало победу над чемпионом мира Ли Седолем в древней стратегической игре го. Это стало выдающимся достижением в области компьютерных наук. В го так много возможных комбинаций ходов, что алгоритм не способен использовать простой перебор вариантов для анализа каждой из них, как это делают программы ИИ в шахматах, и ему приходится опираться на вероятности, полученные по результатам сыгранных партий, чтобы решить, какой ход будет лучшим. Но игры всего лишь игры. Конечно, они могут служить основой для выработки навыков, которыми мы хотели бы овладеть с помощью ИИ, однако по природе своей игры – лишь некие абстракции, отражающие сложность жизни. Доска для игры в го имеет в буквальном смысле черно-белую окраску, и оба игрока могут видеть положение всех фишек.

Позже DeepMind продемонстрировала[7] систему искусственного интеллекта, победившую лучших игроков-людей в сложной видеоигре StarCraft II, воображаемый мир которой имеет чуть больше сходства с нашей непростой реальностью. Та же исследовательская компания OpenAI[8], впоследствии создавшая ChatGPT, разработала программу на базе ИИ, которая смогла победить команду людей в быстро развивающейся видеоигре Dota 2. Но на тот момент это еще не стало сенсацией, так как слишком мало людей знало о StarCraft II или Dota 2, а программное обеспечение, освоившее эти игры, пока еще не годилось для применения в реальной жизни.

До появления ChatGPT магия ИИ, как правило, была скрыта от глаз публики. Искусственный интеллект помогал привычным продуктам рынка выполнять какие-то функции, например рекомендовал фильм или отмечал человека на фотографиях в социальных сетях. Эти способности ИИ впечатляли, но они не были технологиями общего назначения, и большинство людей не догадывались, что за подобными действиями стоит ИИ. Мои редакторы иногда пожимали плечами, когда я предлагал написать статью об одном из этих узких достижений в области ИИ, и, оглядываясь назад, я их не виню. Такой ИИ казался слишком далеким от примеров искусственного интеллекта, которые все мы видели в фильмах, будь то злобный разум HAL 9000 в фильме Стэнли Кубрика «2001 год: Космическая одиссея», добродушный компьютер из «Звездного пути» или даже очаровательная цифровая помощница из фильма «Она» 2013 года.

Все начало меняться в 2018 году, когда исследователи добились решительного прогресса с большой языковой моделью – разновидностью технологии ИИ, на которой построен ChatGPT. Их успехи доказали, что достаточно большая система ИИ, обученная только предсказывать очередные слова в предложении, может быть использована для решения самых разных задач – от перевода до обобщения разрозненных данных и даже ответов на вопросы. А раньше для каждого из этих действий требовалась отдельная система ИИ. В мире ИИ это стало большим событием, и я написал в Bloomberg о его далеко идущих последствиях для бизнеса, а затем и в Fortune. Но даже после этого интерес к новой технологии был незначительным, поскольку она не имела воплощения в простой и доступной продукции. Большинству людей, включая и многих экспертов, было сложно понять, насколько сильно изменится мир с ее помощью. У тенденции недооценивать прогресс[9] в области ИИ есть свое название – «эффект Теслера». Ларри Теслер – компьютерный специалист, однажды заявивший: «ИИ – это то, что еще не сделано». По его словам, все, что уже создано, обществом считается чем-то само собой разумеющимся. Как только программа ИИ осваивает очередное умение, мы исключаем его из категории «интеллект», который воспринимается нами как некое аморфное качество, требующее «человеческого» сочетания способностей, недоступных для любых программ.

С помощью ChatGPT ИИ наконец-то справился с эффектом Теслера, и даже более того. Люди внезапно поняли, что ИИ уже существует: с ним можно разговаривать и он может отвечать на вопросы убедительно и уверенно, пусть и не всегда правильно. Вы можете спросить у него рецепт, основываясь на ингредиентах, имеющихся в вашем холодильнике, попросить подвести итог вашей встречи в прозе или, если хотите, в стихах, обратиться к нему за идеями по улучшению бизнеса или за советом, как поговорить с начальником о повышении зарплаты. ChatGPT в состоянии создать для вас веб-сайт или написать программное обеспечение, способное обрабатывать и анализировать данные. В сочетании с другими генеративными моделями ИИ он может создавать изображения практически всего, что получается описать словами.

Только теперь люди оценили искусственный интеллект. Он уже напоминал фильм Стэнли Кубрика и «Звездный путь». Наше отношение к этой технологии в одночасье превратилось из безразличного в озадаченное. Что все это означает? Какое будущее открывает нам ИИ? Есть ли у нас вообще будущее? Конечно, были и пугающие заявления, сделанные даже теми самыми руководителями и исследователями, которые находились ближе всего к переднему краю новой технологии. Они предрекали, что ИИ может лишить работы 300 млн человек[10] по всему миру, что ChatGPT подобен «карманной ядерной бомбе», взорвавшейся среди ничего не подозревающей публики, что он сведет к нулю образование, разрушит доверие и уничтожит демократию, что ИИ может вообще означать[11] исчезновение человечества, если мы не проявим осторожность (как заявил соучредитель и глава OpenAI Сэм Альтман).

Эта книга представляет собой попытку ответа на многочисленные вопросы, поставленные перед нами ChatGPT. Исследуя проблему, я был поражен тем, как много тревог, доходящих порой до паники, у человечества было при внедрении более ранних технологий, в том числе печатного станка, телевидения и интернета. Некоторые опасения насчет ИИ возникли еще на заре компьютерной эры, другие – совсем недавно, с появлением интернета, GPS, социальных сетей и мобильных телефонов. Можно извлечь важные уроки из того, как мы коллективно справлялись с проблемами, которые ставили перед нами все эти изобретения, как менялись или, что еще важнее, не менялись мы сами. ИИ представляет собой ускорение, расширение, а во многих случаях и обострение прежних тенденций. Когда речь идет о социальной изоляции или недоверии к средствам массовой информации, ИИ дает повод для подобной же озабоченности, но уже в превосходной степени.

Правда, от предыдущих инноваций ИИ отличается тремя ключевыми моментами. Во-первых, это технология более общего назначения, чем те, с которыми мы сталкивались ранее, и данный факт делает появление ИИ гораздо более похожим на изобретение письма, металлургии или электричества, чем на изобретение телефона, автомобиля или самолета. Как считают некоторые специалисты по ИИ[12], это, пожалуй, «последнее изобретение», которое нам суждено сделать, потому что искусственный интеллект способен помочь создать все будущие необходимые нам технологии и повлиять практически на все сферы жизни общества.

Во-вторых, ИИ развивается более быстрыми темпами, и его внедрение также происходит быстрее, чем у предыдущих технологий. В течение месяца после выхода ChatGPT число пользователей достигло 100 млн человек[13], а у Facebook – предыдущего самого быстрорастущего потребительского программного продукта – на это ушло почти четыре с половиной года. Расходы на новую технологию растут: более половины компаний из списка Fortune 500[14] планируют в течение ближайших нескольких лет внедрить ИИ, подобный ChatGPT.

Скорость, с которой все происходит, также имеет значение, потому что нам, людям, остается меньше времени, чтобы приспособиться к новой реальности, которую помогает создавать ИИ, – меньше времени, чтобы подумать о последствиях ИИ и о том, как мы собираемся управлять этой технологией, и меньше времени, чтобы начать действовать, пока не стало слишком поздно, пока не нанесен ущерб, каким бы он ни был.

И третье. Как никакая другая технология, ИИ наносит удар по нашему самому больному месту – интеллекту и творчеству, заставляя людей сомневаться в своей уникальности. Когда Джоны Генри[15] всего мира в конечном итоге проиграли паровому молоту, физический труд существенно обесценился. Однако физическая сила никогда не относилась к доминирующим качествам человека. Мы всегда знали, что есть другие существа, способные одолеть нас в схватке, обогнать, прыгнуть дальше, нырнуть глубже… Но ничто не могло превзойти нас в разуме. Микропроцессоры и предыдущие поколения программного обеспечения соперничали с некоторыми из наших когнитивных способностей: они могли выполнять вычисления гораздо быстрее и точнее, чем мы, и могли так же точнее и быстрее выполнять любые предписанные действия. Однако мы сами создавали программное обеспечение для того, чтобы эти предписанные действия выполнялись. Компьютеры не бросали вызов самой сути нашего интеллекта – способности рассуждать, изобретать новые способы решения проблем, высказывать идеи и эмоции в самой разной форме. ИИ бросает вызов большинству, если не всем, этим человеческим качествам. Именно поэтому он вызывает такую глубокую тревогу и заставляет относиться к нему одновременно и с восторгом, и с ужасом. Мы внезапно оказались в положении, заставляющем задуматься о том, как долго нам еще суждено оставаться главенствующим интеллектом на планете.

Хотя от всего этого голова идет кругом, нам есть на что рассчитывать в будущем, определяемом ИИ. Он может поделиться с нами своими сверхспособностями, если мы примем правильные решения при проектировании и определим верную политику. Он также может облегчить бремя рутинных задач, позволяя нам работать быстрее и умнее, что приведет к беспрецедентному буму производительности и экономическому росту. ИИ не уничтожит образование, как опасаются некоторые учителя и родители, а позволит каждому из нас иметь в кармане персонального репетитора. ИИ поможет расширить границы науки и медицины, предложив новые методы лечения в рамках персонализированной медицины. Он углубит понимание химии, биологии и даже нашей собственной истории и предыстории. Он поможет нам следить за состоянием нашей планеты и сохранять биоразнообразие, а также более эффективно использовать возобновляемые источники энергии. Многим из нас он подарит постоянного спутника, возможно, облегчит одиночество и позволит тем, кто испытывает трудности в общении, улучшить свои социальные навыки. При правильном использовании он может укрепить нашу демократию.

Но и здесь людей подстерегает серьезная опасность. Если мы сделаем неправильный выбор, ИИ ослабит нас как индивидуально, так и коллективно. Наши социальные навыки могут атрофироваться, а на работе мы окажемся не хозяевами машины, а ее бесправными и демотивированными рабами. Без умелых действий правительства неравенство станет еще сильнее, а власть сконцентрируется еще больше. Вирусное распространение контента от ИИ подорвет доверие и повредит и без того тонкую ткань нашей демократии. Энергопотребление ИИ может навредить нашим усилиям по борьбе с изменением климата, а развитие технологий ускорит создание биологического оружия, которое сделает наши войны еще более смертоносными как для мирных жителей, так и для солдат. В неправильных руках ИИ способно стать инструментом террора. Если мы автоматизируем принятие решений о применении ядерного оружия, это может оказаться гибельным для всего мира. Есть даже вероятность превращения будущего искусственного сверхинтеллекта в угрозу для нашего вида.

На следующих страницах мы поговорим и о других аспектах влияния ИИ на нашу жизнь, которым не уделяется столько внимания, сколько историям о конце демократии или даже всего мира. Главный из них – угроза, которую ИИ представляет для нашего разума и мышления. Мы не должны позволить когнитивным способностям ИИ снизить наши собственные. Другой критический риск, обсуждению которого уделяется слишком мало внимания, – неспособность ИИ к эмпатии, которая должна занимать центральное место в процессе принятия решений. Наконец, ИИ может усугубить расовое и классовое разделение, которое и без того будоражит наше общество.

Но есть и более обнадеживающая информация: я продемонстрирую возможности искусственного интеллекта, которые часто упускаются из виду. Хотя ИИ способен усугубить неравенство, он в то же время дает нам шанс вовлечь больше людей в средний класс, помочь им создать новый бизнес и стать предпринимателями. Это может привести к расцвету творчества и культуры, улучшению обучения и расширению наших личных и коллективных знаний.

Исследование темы ИИ начнем с краткого экскурса в историю, объясняющего, как мы оказались на пороге новой эры. Затем мы поговорим о том, как сильно ИИ способен изменить наше собственное мышление, коснемся темы влияния ИИ на социальные и трудовые отношения, на компании, в которых мы работаем, и экономику в целом. Далее уделим внимание тому, какие изменения ИИ внесет в искусство, культуру, науку и медицину. Обсудим, может ли он стать угрозой устойчивости нашего мироустройства и демократии, а также как его будут использовать в системах вооружения. Наконец, попробуем понять, может ли случиться так, что ИИ приведет к вымиранию человечества.

Во всех этих сферах ИИ ставит перед нами тревожные вопросы об аутентичности и доверии, а также о том, что философы называют онтологией (это наши убеждения о бытии и реальности) и эпистемологией (то, как мы строим эти убеждения). В нашем будущем, которым будет управлять ИИ, мы должны четко различать подлинность и ее имитацию. ИИ отлично умеет мимикрировать, то есть имитировать понимание, письмо, мышление и творчество. Но в большинстве случаев он не способен на самовыражение, и так, скорее всего, будет всегда. Он может дополнить и расширить ключевые аспекты нашей человечности, но мы не должны обманываться, полагая, будто он сможет нас заменить. Нам следует помнить, что главная способность ИИ заключается в том, чтобы усиливать, а не заменять наши природные дарования.

В этой книге я постараюсь разобраться с тем, каким путем мы пойдем к тому будущему миру сверхвозможностей, который в состоянии создать нам ИИ. Но путь узок, по нему придется ступать очень осторожно. Надо обдуманно подходить к созданию моделей ИИ и, что не менее важно, к взаимодействию с ними.

В конце концов, то, как мы будем использовать ИИ, зависит только от нас. Нам как обществу предстоит принимать самые важные решения в сфере политики и финансов, которые редко обсуждаются в публичной сфере. Только осмотрительный подход разрешит нам использовать ИИ для дополнения наших лучших человеческих навыков, а не их вытеснения. Государственная и корпоративная политика будет иметь решающее значение для определения степени влияния ИИ. Об этом и пойдет речь в книге.

Наиболее важным окажется не то, какие умения продемонстрирует ИИ, сколько то, как мы будем с ним взаимодействовать. Чтобы не допустить ошибок, мы должны так же высоко ценить знания специалистов по взаимодействию людей и компьютеров, по когнитивным предубеждениям человека, как и знания тех, кто создает все более мощные модели ИИ.

В вопросах разработки программного обеспечения ИИ люди должны выступать как единая команда, а не просто как контролеры достигнутых успехов. Нам надо придерживаться позиции, что процессы для нас столь же важны, как и результаты, и эти процессы должны включать в себя эмпатию – сопереживание другим людям, порожденное жизненным опытом. Эмпатия – самый ценный и непреходящий человеческий дар, основа нашей морали. И вряд ли искусственный интеллект когда-нибудь станет обладать эмпатией. Нам нельзя допустить, чтобы гонка за технической эффективностью ИИ устранила главенство эмпатии – самой человеческой черты – в нашей цивилизации. Удержать такой ориентир в поле зрения будет непросто. Но если нам это удастся, мы добьемся успеха в освоении ИИ.

Глава 1. Чародеи

Весной 2020 года[16] в огромном, размером с 20 футбольных полей, здании без окон, находившемся на равнинах возле Де-Мойна, штат Айова, с помпой был запущен в эксплуатацию один из самых больших суперкомпьютеров всех времен. Суперкомпьютер состоял из множества блоков специальных компьютерных чипов, изначально разработанных для визуализации графики в видеоиграх. Более 10 тыс. чипов были соединены между собой высокоскоростными оптоволоконными кабелями. Центр обработки данных принадлежал[17] компании Microsoft, и его строительство обошлось в сотни миллионов долларов. Но на самом деле суперкомпьютер был создан для нужд небольшого стартапа из Сан-Франциско, о котором за пределами узкой области компьютерных наук, занимающейся ИИ, мало кто слышал. Называлась молодая компания OpenAI.

В июле 2019 года Microsoft вложила 1 млрд долларов[18] в OpenAI, чтобы получить доступ к ее технологиям, и в рамках сделки обещала построить этот суперкомпьютер. После запуска он круглосуточно работал на протяжении 34 дней, обучая одну из самых больших среди когда-либо разработанных частей программного обеспечения ИИ – программу, способную закодировать взаимосвязь между 175 млрд единиц информации. OpenAI «скормил» искусственному интеллекту содержимое более 2,5 млрд веб-страниц, собранных за десятилетие работы в интернете, а также миллионы чатов сети Reddit, десятки тысяч книг и всю «Википедию». Задача программы состояла в том, чтобы создать карту взаимосвязей между всеми словами в этой огромной базе данных. Такая статистическая карта должна была позволить предсказать наиболее вероятное следующее слово в любой произвольной части текста. По итогу программа научилась выдавать множество фрагментов текста в различных жанрах и стилях, которые были практически неотличимы от созданных человеком.

OpenAI назвала программу GPT-3. Ее дебют в июне 2020 года ошеломил компьютерных специалистов: никогда еще программное обеспечение не демонстрировало такую способность к написанию текстов. GPT-3 умела не только сочинять прозу и стихи, но и кодировала информацию и отвечала на конкретные вопросы, понимала и обобщала прочитанное, определяла настроение произведения, переводила с английского на французский, с французского на немецкий и на некоторые другие языки, рассуждала на определенные темы… Фактически она была способна выполнять десятки задач, связанных с языком, хотя ее обучали только предсказывать следующее слово в последовательности. Все это она делала в диалоговом режиме, создавая впечатление, что ведет с человеком беседу. Ученые называют такой режим общения естественным языком, чтобы отличать его от компьютерного кода. Потенциал GPT-3 убедил генерального директора Microsoft Сатью Наделлу удвоить, а затем и утроить первоначальные инвестиции в размере 1 млрд долларов в небольшую лабораторию искусственного интеллекта в Сан-Франциско. Через два года на базе GPT-3 появился чат-бот ChatGPT.

ChatGPT не был первой программой искусственного интеллекта, результаты работы которой походили на человеческие, но он был первым, доступ к которому смогли получить сотни миллионов людей. ChatGPT пробудил в обществе понимание возможностей ИИ и дал старт гонке крупнейших технологических компаний и хорошо финансируемых стартапов за воплощение этих возможностей в нечто осязаемое. В течение нескольких месяцев Microsoft выделила OpenAI 10 млрд долларов и начала внедрять еще более мощную модель GPT-4 в такие продукты, как Microsoft Word и PowerPoint, которыми ежедневно пользуются сотни миллионов людей. Google, пытаясь наверстать упущенное, создала собственный чат-бот общего назначения Bard и начала внедрять генеративный ИИ в свою поисковую систему, что несло потенциальную угрозу дестабилизации бизнес-моделей целых отраслей – от новостных программ и СМИ до электронной коммерции. Компания также начала обучение еще более крупных и мощных систем ИИ, которые бы анализировали и создавали не только текст, но и изображения, звуки и музыку. Эта модель, получившая название Gemini, впоследствии заменила Bard и была интегрирована в несколько продуктов Google. Компания Meta начала выпускать и размещать в свободном доступе мощные модели ИИ. Amazon и Apple также приступили к созданию генеративного ИИ.

Подобная конкуренция подталкивает нас к разработке единой универсальной системы ИИ, которая сможет сравняться с человеком или превзойти его в решении практически любых когнитивных задач, – этот гипотетический момент получил название технологической сингулярности. Даже если многие пока сомневаются в наступлении такого момента, он близок как никогда.

Почему ChatGPT привлек всеобщее внимание? Потому что с ним можно разговаривать. Долгую историю имеет идея, что именно разговорные навыки компьютера, а не его умение умножать пятизначные числа или выявлять закономерности в колебаниях фондового рынка должны быть мерилом интеллекта машины. Представления о создании интеллектуального цифрового собеседника сложились еще на заре компьютерной эры, и они предопределили как положительные, так и отрицательные направления развития всей отрасли ИИ.