Укрощение искусственного интеллекта. Пособие по выживанию в нашем необыкновенном будущем

Идея диалога как мерила интеллекта возникла в середине XX века в трудах Алана Тьюринга – одного из самых выдающихся умов той эпохи, гениального математика, который прославился тем, что помог взломать нацистский шифр «Энигма» во время Второй мировой войны. В 1936 году, когда ему было всего 24 года, Тьюринг предложил конструкцию гипотетического устройства, впоследствии вдохновившую создателей современных компьютеров. И именно Тьюринг в 1948 году[19] в отчете для британской правительственной лаборатории предположил, что в один прекрасный день компьютеры могут стать «разумными». По его мнению, важнее качество результата, а не процесс работы машины, который к нему привел. Машина, способная обыграть человека в шахматы, более «разумна», чем противник, даже если она делает ходы на основе грубого перебора вариантов, что мало напоминает образ мышления человека.

Два года спустя[20], в 1950 году, Тьюринг развил эти идеи в своей основополагающей работе под названием «Вычислительные машины и разум». Он предложил тест на интеллект машины в виде имитационной игры. В ней судья задает вопросы человеку и компьютеру. Все трое изолированы друг от друга в отдельных комнатах. Судья получает ответы в виде машинописных заметок, которые помечаются X или Y в зависимости от того, кто их сделал, – человек или машина. Задача судьи состоит в том, чтобы определить по напечатанным ответам, кем является X – человеком или машиной. Тьюринг предложил считать компьютер разумным, если судья не сможет определить разницу.

Алан Тьюринг пояснял: тест не направлен на точность или правдивость ответов, и вполне допускал, что для «победы» в игре и человек и машина могут солгать. Тест также не ставил целью проверку специальных знаний. Давая описание игре, Тьюринг предположил, что машину сделает неотличимой от человека именно овладение формой повседневного общения, а также очевидное следование здравому смыслу.

Имитационная игра, позже получившая название «Тест Тьюринга», оказала глубокое влияние на отношение ученых-компьютерщиков к машинному интеллекту, которое с самого начала было весьма противоречивым. Вулф Мэйс, философ и профессор Манчестерского университета, был[21] среди современных критиков, негативно относившихся к тесту Тьюринга из-за того, что он фокусировался на выходных результатах машины, а не на ее внутренних процессах. Мэйс назвал холодный логический расчет машин «антитезой мышлению», которое, по мнению профессора, является гораздо более загадочным, интуитивным явлением. Мэйс являлся одним из тех, кто считал, что интеллект тесно связан с человеческим сознанием, а сознание, в свою очередь, не может быть сведено к простой физике. «Тьюринг, – писал профессор, – похоже, подспудно полагал, что весь интеллект и мышление могут быть суммарно построены из совокупности неких атомарных единиц».

Десятилетия спустя философ Джон Сёрл провел мысленный эксперимент, чтобы наглядно продемонстрировать фатальный, по его мнению, недостаток теста Тьюринга. Сёрл представил себе[22] человека, не умеющего ни читать, ни говорить по-китайски, запертым в комнате с толковым словарем китайского языка, несколькими листами бумаги и карандашом. Записки с китайскими иероглифами просовывают ему через щель под дверью, а его задача состоит в том, чтобы находить указанные иероглифы в словаре, переписывать их китайские определения на другой лист бумаги и возвращать этот лист через ту же щель. По мнению Сёрла, было бы нелепо утверждать, будто человек в комнате «понимает» китайский язык только потому, что может давать точные определения китайских слов. Точно так же неправ и Тьюринг, утверждал Сёрл, считая компьютер разумным только потому, что тот может имитировать внешние характеристики человеческого диалога.

Дебаты на эту тему усилились с появлением сверхбольших языковых моделей, таких как GPT-4. Конечно, когнитивной науке еще предстоит до конца разобраться с природой человеческого интеллекта, не говоря уже о сознании. Можно ли свести интеллект[23] к числовому показателю – коэффициенту интеллекта, или IQ, основанному на результатах стандартизированного теста? Или, как утверждал гарвардский психолог и нейробиолог Говард Гарднер, лучше говорить о множественном интеллекте, учитывающем спортивный гений Майкла Джордана, музыкальные таланты Тейлор Свифт и навыки межличностного общения Билла Клинтона? Неврологи и когнитивные психологи продолжают спорить.

Помимо того что тест Тьюринга отдавал предпочтение результатам, а не процессу, акцент на обмане как отличительной черте интеллекта поощрял использование обмана при тестировании программного обеспечения ИИ. В глазах многих современных специалистов по этике это делает тест в корне аморальным[24]: по их мнению, таким образом поощряется то, что инженеры тестируют ИИ своих систем на ничего не подозревающих людях. Действительно, в последние годы компании тестировали[25] программное обеспечение ИИ, умеющее играть в стратегические игры, например в го и «Дипломатию», на людях, которые не были об этом предупреждены. Исследователи оправдывали обман необходимостью, так как респонденты могли бы изменить свой стиль и стратегию игры, если бы знали, что их соперник – компьютерная программа. Специалисты по этике и журналисты обрушились с критикой на Google[26], когда в 2018 году компания продемонстрировала возможности своего нового цифрового помощника Duplex, предложив программе позвонить в ресторан и забронировать столик, обманув тем самым метрдотеля и заставив его думать, что он общается с человеком. Сегодня большинство придерживается политики «ответственного ИИ»: люди всегда должны быть проинформированы в случае взаимодействия с программным обеспечением ИИ. Правда, компании иногда находят оправдания, чтобы этого не делать.

Возможно, тест Тьюринга до сих пор привлекает к себе внимание критиков именно потому, что он был представлен как игра на смекалку, где человек противостоит компьютеру, цель которого состоит в том, чтобы подражать человеку и ничем от него не отличаться. Как отмечает писатель Джон Маркофф в своей книге «Машины, наделенные любовью»[27], одним из следствий этого подражания стало то, что поколения исследователей ИИ пытались создать программное обеспечение, которое соответствовало бы способностям человека или превосходило их, а положительным результатом считалась возможность заменить человека. Альтернативой, по мнению Маркоффа, должна быть разработка программного обеспечения ИИ, не заменяющего, а только дополняющего возможности человека.

Однако идея дополняющих способностей с трудом пробивает себе дорогу. Когда исследователи ИИ хотят доказать умения своего программного обеспечения, они все еще склонны следовать принципам Тьюринга и сравнивать возможности систем с возможностями человека. Конечно, в некоторых случаях речь идет просто об удачных маркетинговых ходах, ведь программное обеспечение, превосходящее человека в знакомой настольной игре или на квалификационном экзамене, становится лучшим поводом для заголовков. Но за стремлением разработчиков ИИ сравняться с человеком или превзойти его в производительности зачастую стоит нечто большее, чем только умная медиастратегия, и вина здесь во многом лежит на Тьюринге. Недавно последнее поколение языковых моделей ИИ было подвергнуто целой серии тестов, предназначенных для оценки людей, включая экзамены на получение лицензий адвоката и врача в США. Самые мощные на сегодняшний день системы искусственного интеллекта прошли все эти тесты, во многих случаях набрав больше баллов, чем средний человек. И конечно, сенсацией стало мастерство ChatGPT в прохождении оригинального теста Тьюринга при ведении диалога с человеком. Но стоит копнуть чуть глубже, и попытки компьютерной программы имитировать человеческие способности начинают давать сбои. Тот, кто имел дело с ChatGPT, вскоре обнаруживает, что интеллектуальные способности современного генеративного ИИ бывают удручающе нестабильными: он может мастерски ответить на сложный вопрос по физике частиц, а затем допустить ошибку при решении простой логической задачи, с которой справился бы и восьмилетний ребенок. Такое смешение гениальности и глупости – это совсем не то, что имел в виду Тьюринг.

Когда ученые впервые взялись за воплощение в жизнь идеи Тьюринга о разумной машине, им даже не приходила в голову парадоксальная мысль, что компьютер может овладеть искусством разговора, но при этом не понимать своих слов. Примерно в то время, когда Тьюринг придумал имитационную игру, уже работали первые универсальные компьютеры, созданные во многом на базе его довоенных концептуальных разработок. Это были колоссальные по размерам машины. Один из самых ранних компьютеров ENIAC занимал почти весь подвал инженерного факультета Пенсильванского университета (площадью 140 кв. м) и состоял из 30 т проводов и электронных ламп. Он мог выполнять 5 тыс. операций сложения в секунду, что было намного быстрее предыдущих механических вычислительных машин, но почти в триллион раз медленнее мощных чипов, на которых работают современные программы искусственного интеллекта. Тем не менее небольшая группа первопроходцев верила, что сможет научить думать такую машину, как ENIAC.

Одним из этих первопроходцев был молодой профессор математики Дартмутского колледжа Джон Маккарти. К началу 1950-х годов идея наделить новые компьютеры интеллектом стала набирать силу. В качестве решающего шага на пути к этой цели ученые пытались найти алгоритмы, точно описывающие работу человеческого мозга. Маккарти вплотную занимался данной проблемой, работая над так называемой теорией автоматов. Другие ученые проводили аналогичные исследования в области кибернетики и обработки информации. В начале 1955 года[28] у Маккарти возникла идея объединить их усилия, организовав летом в Дартмуте двухмесячный семинар. Профессор пригласил около дюжины ученых, в основном математиков, а также инженеров-электроников и психологов, чтобы выяснить, как заставить компьютер учиться и думать.

При подготовке заявки на финансирование семинара Маккарти назвал зарождающуюся область науки «искусственным интеллектом». Маккарти и его коллеги, которые принимали участие в организации семинара, поставили перед собой амбициозную задачу. «Будет предпринята попытка заставить машины использовать язык, формировать абстракции и концепции, самостоятельно совершенствоваться и решать проблемы, которые сейчас под силу только человеку», – писали они в своей заявке на грант, поданной в Фонд Рокфеллера. Предполагалось, что при совместной работе «тщательно отобранной» группы ученых «значительный прогресс может быть достигнут в решении одной или нескольких из данных проблем» уже текущим летом.

Как оказалось, Маккарти и его коллеги-организаторы были чересчур оптимистичны. Семинар 1956 года не смог привести участников к единому ви́дению программы исследований, что стало для Маккарти разочарованием. Некоторым участникам не понравилось[29] даже название «искусственный интеллект», так как оно, по их мнению, вводило в заблуждение. Ожесточенные споры о термине отвлекали время и внимание от более предметных дискуссий. Маккарти отстаивал свой выбор, утверждая, что целью исследований является именно интеллект, а не просто автоматизация. Название закрепилось. И хотя на семинаре в Дартмуте не удалось сплести различные нити исследований в единый канат, благодаря проведенной работе были задекларированы многие концептуальные направления и намечены некоторые проблемы, ставшие определяющими для разработки ИИ на протяжении последующих шести десятилетий, в том числе одна идея, послужившая импульсом к нынешней революции в области ИИ.

Идея получила название[30] «искусственной нейронной сети». К концу 1940-х годов нейробиологи обнаружили, что человеческие нейроны в начале жизни одинаковы – различия появляются по мере их взросления и обучения. Исследователям также было известно, что нейроны обмениваются друг с другом электрохимическими сигналами, соблюдая определенную иерархию. Эти два факта побудили ученых искать способы имитировать подобную структуру сначала с помощью электронных ламп, а затем и с использованием цифровых компьютеров и программного обеспечения.

Самые первые нейросети имели всего два уровня. На входном нейроны получали данные из разных частей изображения, аудиозаписи или текста, которые затем анализировались сетью. Каждый входной нейрон применял к своей единице информации определенную математическую формулу и передавал результат единственному выходному нейрону. Выходной нейрон суммировал ответы всех входных нейронов, а затем применял собственную математическую формулу. Полученный результат передавался пользователю. Если ответ оказывался неверным, корректировке подвергались переменные, называемые весами и смещениями, которые являются частью формулы каждого нейрона. Нейроны, наиболее близкие к правильному ответу, увеличивали свои веса и смещения, а остальные – уменьшали. Затем вся сеть повторяла попытку с другим примером из набора данных. Этот процесс позволял сети на основании ряда примеров постепенно приходить к правильному ответу.

Некоторые ученые-компьютерщики[31] полагали, что с помощью таких ранних нейросетей можно будет прийти к искусственному интеллекту. Аналогичный подход хорошо работал при обучении компьютеров простым бинарным классификациям, например когда надо было определить, является ли что-то светлым или темным, круглым или квадратным. Но на большее он не был способен. Марвин Мински, блестящий молодой гарвардский математик, который помог Маккарти организовать семинар, построил одну из первых аналоговых нейросетей, используя детали, извлеченные из бомбардировщика B-24. Тем же летом ученый представил свою работу по нейросетям в Дартмуте. Однако значительная часть этой презентации была посвящена многочисленным ограничениям в работе нейросетей.

Вскоре Мински, через какое-то время основавший лабораторию искусственного интеллекта в Массачусетском технологическом институте (МТИ), стал самым суровым критиком своей же техники. Он переключился на другую идею[32] о том, как создать машины, способные обучаться и думать. Этот способ предполагал использование логических правил, подсказывающих компьютеру ход рассуждений. Например, чтобы создать систему, способную идентифицировать на изображениях автомобили, мотоциклы и велосипеды, нужно было запрограммировать компьютер на распознавание признаков, которые, как известно людям, помогают идентификации. К таким признакам относятся руль, количество колес, двери, окна и выхлопная труба. Для компьютера пишется код с инструкцией, в какой последовательности надо рассматривать эти особенности и как делать выводы. Если на изображении есть руль, но нет дверей и выхлопной трубы, то это велосипед, если присутствует выхлопная труба, но нет дверей, то это мотоцикл… После семинара в Дартмуте долгие годы казалось, что такие алгоритмы рассуждений станут основой для неуклонного прогресса на пути к человекоподобному ИИ. Ученые создали программное обеспечение, которое могло играть в нарды, шашки, а затем и в шахматы примерно так же хорошо, как и обычный человек. А затем, в 1966 году, система ИИ, использующая основанный на правилах подход Мински, прошла тест Тьюринга.

Это достижение принадлежит инженеру Джозефу Вейценбауму[33], работавшему в лаборатории Мински в Массачусетском технологическом институте. Вейценбаум родился в Берлине в 1923 году в обеспеченной еврейской семье, но в 13 лет, спасаясь от нацистов, оказался в Детройте. Отношения с родителями у Джозефа были натянутыми, и, оказавшись в процессе изучения английского языка в социальной изоляции, парень искал убежища сначала в математике, а затем на кушетке психоаналитика. Джозеф Вейценбаум тяготел к еще только зарождавшейся области вычислительной техники и в конце концов получил работу программиста, пишущего программное обеспечение для гигантских компьютеров, которые компания General Electric строила в новом технологическом центре Кремниевой долины. Вейценбаума заинтересовала возможность общения с машиной не с помощью кода, а на естественном языке. Зная об этом, друг познакомил его[34] с психиатром из Стэнфордского университета Кеннетом Колби, который считал, что компьютеры могут открыть новые возможности для терапии, а также предложить интересные способы исследования психических заболеваний путем моделирования человеческого мозга. Вейценбаум и Колби совместно разработали проект по созданию своего рода психотерапевтической программы. Вейценбаум забрал эту идею с собой, когда в 1963 году перешел на работу в Массачусетский технологический институт. В результате через три года появился первый в мире чат-бот ELIZA, названный в честь Элизы Дулиттл из пьесы «Пигмалион».

Чат-бот ELIZA был создан, чтобы имитировать[35] взаимодействие между пациентом и психоаналитиком. Вейценбаум намеренно выбрал[36] такую ситуацию, поскольку она помогала скрыть относительно слабое понимание чат-ботом языка. Система анализировала сообщение[37], переданное ей пользователем, и в соответствии со сложной последовательностью правил пыталась сопоставить это сообщение с одним из нескольких заранее подготовленных ответов. Если она не была уверена, то иногда просто пересказывала текст пользователя в вопросительной форме, как это делал бы психоаналитик. В других случаях[38] она прибегала к расплывчатым высказываниям, демонстрирующим внимание к собеседнику, типа «Понятно», «Продолжайте» или «Это очень интересно».

Кодирование ELIZA не было особенно сложным даже по стандартам того времени. Новаторским чат-бот сделала реакция людей на него. Многие из учеников Вейценбаума[39], которые общались с ELIZA, были убеждены, что это настоящий психотерапевт во плоти. «Некоторых испытуемых было очень трудно убедить в том, что ELIZA (даже с ее тогдашним сценарием бесед) не является человеком», – писал Вейценбаум. Позже он вспоминал[40], что секретарша уговорила его устроить ей сеанс с этим чат-ботом, а спустя некоторое время после начала попросила оставить ее одну в комнате. «Я считаю, что этот случай свидетельствует об успехе программы, которая поддерживает иллюзию понимания», – отметил Вейценбаум. Даже ученые-компьютерщики[41] ловили себя на том, что делают чат-боту интимные признания.

Другими словами, ELIZA была очень близка к тому, чтобы успешно осуществить тот обман, который представлял себе Тьюринг. Но она также наглядно показала недостатки теста Тьюринга, главным из которых является наша собственная доверчивость: люди, общавшиеся с этим чат-ботом, хотели верить, что разговаривают с человеком. Тенденция очеловечивания чат-ботов[42] и доверие к ним, несмотря на их очевидные недостатки, получили известность как эффект ELIZA. Он и сегодня ярко проявляет себя в сфере ИИ.

Но наибольшее влияние этот эффект, возможно, оказал на создателя ELIZA. Вместо того чтобы насладиться триумфом, Вейценбаум ощутил подавленность. Неужели нас, людей, так легко обмануть? Он начал понимать, как трудно – и в то же время как важно – отличить настоящую человеческую мысль от ее имитации. Колби, сотрудничавший с Вейценбаумом[43] с самого начала, утверждал, что если пациенты считают чат-бот, подобный ELIZA, полезным, то это стоящее изобретение. Однако обман, лежащий в основе данного эффекта, беспокоил Вейценбаума. Споры продолжаются и сегодня, когда появилось новое поколение чат-ботов, призванных изображать сочувствие или использоваться в психотерапии.

Мински, коллега Вейценбаума по Массачусетскому технологическому институту, не видел разницы между рассуждениями компьютера и мозга. Ему принадлежит известное высказывание[44], что люди – это не более чем «машины из мяса». Вейценбаум был в корне не согласен с такой точкой зрения. Он пришел к выводу, что некоторые области не подвластны ИИ, поскольку зависят от жизненного опыта и в конечном счете эмоций, которых у компьютера никогда не будет. Даже если правила языка могут быть математически формализованы, в чем ученый сомневался, программное обеспечение ИИ никогда не сможет полностью «понять» человеческий язык. Опираясь на поздние философские труды Людвига Витгенштейна, Вейценбаум утверждал, что язык недостаточен для передачи смысла даже между двумя людьми, так как у каждого разный жизненный опыт, а тем более во взаимоотношениях человека и программного обеспечения, не имеющего никакого жизненного опыта, к тому же значительная часть общения происходит невербально. Вейценбаум рассказал историю[45] о том, как они с женой стояли и смотрели на детей, которые спали в кроватках. «Мы молча разговаривали друг с другом, разыгрывая сцену такую же древнюю, как само человечество», – написал он позже. И далее процитировал драматурга Эжена Ионеско: «Не все невыразимо на словах, только живая правда».

Вейценбаум утверждал, что фундаментальное различие между человеком и машиной – неспособность компьютера к настоящей эмпатии – должно быть основанием для запрета[46] искусственному интеллекту делать некоторые вещи, даже если он научится выполнять все человеческие задачи так же хорошо или даже лучше, чем человек. Исследователь полагал, что компьютерным программам никогда не следует разрешать принимать решения с необратимыми последствиями или в тех случаях, «когда компьютерная система предлагается в качестве замены человеческой функции, которая предполагает межличностное уважение, понимание и любовь». Вейценбаум также с беспокойством говорил о том[47], что наша склонность к очеловечиванию машин приводит к ситуации, когда мы слишком охотно признаем машины равными себе, обесценивая собственную человечность.

В 1976 году Вейценбаум изложил свои критические соображения[48] в книге «Возможности вычислительных машин и человеческий разум. От суждений к вычислениям»[49]. Это был язвительный обвинительный акт в адрес собственной сферы деятельности. Ученый обвинил коллег – исследователей ИИ – в «хакерском менталитете», когда специалисты больше озабочены тем, чтобы заставить программное обеспечение выполнить какую-то задачу, чем ответить на научно значимые вопросы о природе интеллекта и мышления. По мнению Вейценбаума, эти так называемые ученые отличались не только нехваткой научной строгости, но и антигуманным подходом к потенциальным рискам программного обеспечения ИИ, которое пытались создать. Вейценбаум, будучи приверженцем левых взглядов и гражданских прав, был особенно обеспокоен тем, что правительство США использовало некоторые ранние программы ИИ в ходе Вьетнамской войны.

Вейценбаум признавал, что многие системы ИИ настолько сложны, что их решения непостижимы даже для тех, кто эти системы создавал, и опасался, что подобные системы будет сложно контролировать. При этом он понимал соблазн использовать непрозрачность программного обеспечения как удобное оправдание для ухода от ответственности. Деятельность ИИ в сфере экономики также вызывала у Вейценбаума тревогу. Согласно его неомарксистским взглядам[50], послевоенный американский капитализм рухнул бы под собственной тяжестью, если бы его не спас компьютер: программное обеспечение позволило крупному бизнесу и федеральному правительству осуществлять контроль за ситуацией, который раньше был невозможен. «Компьютер использовали для сохранения социальных и политических институтов Америки, – писал Вейценбаум. – Он подкрепил и защитил их, по крайней мере временно, от огромного давления перемен». ИИ облегчил тоталитарное правление, и это только усиливало обеспокоенность, обусловленную собственным опытом Вейценбаума, спасшегося бегством из нацистской Германии.

Коллеги Вейценбаума не приняли[51] его книгу, охарактеризовав работу как антинаучную и излишне полемическую. Однако большинство критических высказываний Вейценбаума об ИИ и о тех, кто его создает, не исчезли с повестки дня. Более того, ночные кошмары ученого, связанные с ИИ, сегодня актуальны как никогда ранее.

Причина, по которой легко было игнорировать критические взгляды Вейценбаума в 1970-е годы и невозможно так делать сейчас, во многом связана с одной старой идеей – нейронной сетью – и тремя новыми разработками: гораздо более мощными компьютерными чипами, океанами цифровых данных, ставших легкодоступными благодаря интернету, и инновационным алгоритмам.

К началу 1970-х годов большинство ученых в компьютерной отрасли отказались от работы над нейросетями. В немалой степени это было обусловлено резкой критикой данного направления со стороны Мински. Однако небольшая группа «староверов» продолжала свою деятельность. В середине 1980-х годов один из них, психолог Дэвид Румельхарт из Калифорнийского университета в Сан-Диего, вместе со своим коллегой Рональдом Уильямсом и молодым аспирантом из Англии Джеффри Хинтоном, совершил прорыв, который позволил нейросетям делать интересные вещи. Открытие получило название «обратное распространение», или сокращенно backprop[52].

Оно помогло решить ключевую проблему. Одна из причин, по которой самые ранние нейросети обучались только простым бинарным классификациям, заключалась в том, что у нейросетей имелось всего два слоя. Оказалось, что добавление дополнительных слоев между входными и выходным нейронами позволяет сети делать гораздо более сложные выводы. К 1980-м годам нейронные сети, с которыми экспериментировали Румельхарт, Хинтон и Уильямс, имели несколько слоев. Но со средними слоями нейронов возникали проблемы. В простой двухслойной нейронной сети можно было довольно просто определить, как настроить параметры – веса́ и смещения – каждого входного нейрона, чтобы сеть могла самообучаться. Однако с добавлением дополнительных слоев понимание того, как оценить вклад каждого нейрона в выходной сигнал, превратилось в сложнейшую задачу. Для ее решения пришлось использовать методы дифференциального и интегрального исчисления. Благодаря этому появилась возможность регулировать веса и смещения каждого нейрона таким образом, чтобы обеспечить эффективное обучение многослойной сети.