Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

в 1960 году. Компьютер представлял собой шесть шкафов, наполненных всяческим электрическим снаряжением, и каждый шкаф был размером с большой холодильник. К компьютеру было присоединено также нечто вроде огромного студийного фотоаппарата. Это и был фотоаппарат, только пленку инженеры заменили небольшим квадратным устройством, которое было усеяно четырьмя сотнями черных точек. Это были фоторезисторы, реагирующие на изменение освещенности. Розенблатт и его инженеры напечатали на больших листах картона буквы – A, B, C, D и т. д., – и, когда одну из этих букв располагали на подставке перед объективом фотоаппарата, фоторезисторы отличали черный цвет букв от белого фона. При этом компьютер учился распознавать форму букв – примерно так же, как это происходило с помеченными карточками во время показа в Бюро погоды. Разумеется, первоначально процесс учебы не обходился без помощи человека: по мере того как машина распознавала буквы, оператор сообщал ей, правильный ответ она дает или нет. Но с течением времени компьютер учился и сам на своих ошибках, постепенно выявляя определенные характеристики, отличавшие одну букву от другой: наклонную линию буквы А, двойную дугу буквы В… При демонстрации способностей машины Розенблатту нужно было доказать, что она действительно самообучаемая. Он открывал один из шкафов и отсоединял какие-то провода, разрывая таким образом контакт между моторами, исполнявшими роль псевдонейронов. Когда провода возвращались на место, машине приходилось заново учиться распознавать буквы, но, просмотрев новую серию карточек, она успешно восстанавливала утраченный навык и снова работала так же, как прежде.

Это хитроумное изобретение работало достаточно хорошо, чтобы интерес к нему проявили не только в научно-исследовательском управлении ВМС. В течение следующих нескольких лет разработкой тех же самых идей занялись в Стэнфордском научно-исследовательском институте, а кроме того, лаборатория Розенблатта заручилась контрактами с почтовой службой США и военно-воздушными силами. Почтовая служба нуждалась в устройстве, способном автоматически прочитывать адреса на конвертах, а интерес ВВС заключался в возможности идентификации объектов на аэрофотоснимках. Но все это было делом далекого будущего. Система, разработанная Розенблаттом на тот момент, едва справлялась с распознаванием печатных букв, что было сравнительно простой задачей. Когда система анализировала карточки с изображением буквы А, каждый из фоторезисторов реагировал на определенный участок на карточке. Скажем, один из резисторов отвечает за нижний правый угол. Если в этом месте черный цвет появляется чаще, чем белый, машина придает этому участку больший «весовой коэффициент», а это означает, что он играет более значимую роль в тех математических расчетах, которые в конечном счете определяют, что является буквой А, а что нет. При прочтении новой карточки машина сможет узнать букву А, если большинство наиболее весомых участков черные. Вот и вся технология. И конечно, такая система была совершенно не приспособлена для распознавания рукописного текста, где уловить закономерности значительно сложнее.

Несмотря на очевидные недостатки своей системы, Розенблатт продолжал смотреть в будущее с оптимизмом. Другие тоже верили в то, что в последующие годы эта технология усовершенствуется и позволит решать более сложные задачи. Но вскоре она наткнулась на очень серьезное препятствие в лице Марвина Мински.

* * *

Фрэнк Розенблатт и Марвин Мински

учились в Bronx Science в одно и то же время. Правда, в 1945 году родители Марвина

перевели его в другую школу, частную Академию Филлипса в Эндовере, которая, как считалось, давала наилучшую подготовку для поступления в вузы, а после окончания войны он поступил в Гарвард. Но впоследствии он говорил

о том, что нигде ему не было так хорошо учиться, как в Бронксе: там и сложность заданий постоянно держала в тонусе, и учащиеся были более амбициозные: «с ними ты мог обсуждать свои самые замысловатые идеи, и никто не смотрел на тебя свысока», – говорил он. После смерти Розенблатта Мински назвал своего старого однокашника

воплощением того творческого мышления, к которому приучает школа Bronx Science. Как и Розенблатт, Мински был одним из первопроходцев в разработках искусственного интеллекта. Но смотрел он на эти разработки через совсем другую призму.

Будучи студентом Гарвардского университета

, Мински из трех с лишним тысяч радиоламп и нескольких деталей от бомбардировщика В-52 построил устройство, которое он назвал SNARC, – возможно, первую в истории искусственную нейронную сеть. Затем, поступив в аспирантуру в начале 1950-х

, он продолжал изучать математические концепции, которые, среди прочего, привели к созданию «Перцептрона». Однако он видел в искусственном интеллекте значительно более широкое понятие. Он принадлежал к той небольшой группе ученых

, которые, собравшись летом 1956 года на конференцию в Дартмутском колледже, решили выделить изучение ИИ в отдельную, самостоятельную научную дисциплину. Ранее дартмутский профессор Джон Маккарти тщетно призывал ученых поддержать его усилия в «исследованиях автоматов», как он это называл, но для большинства это был пустой звук. И тогда он ввел в обращение понятие «искусственный интеллект» и организовал в Дартмуте конференцию, куда съехались несколько его единомышленников и другие ученые, проявившие интерес. В повестке Дартмутской научной конференции по искусственному интеллекту

упоминались не только «нейронные сети», но и такие понятия, как «автоматические компьютеры», «абстрагирование» и «самосовершенствование». Среди участников этой конференции были ученые, которые стали лидерами этого направления научных поисков в 1960-е годы. Особенно следует отметить Маккарти, который со временем перебрался на Западное побережье, в Стэнфордский университет, Герберта Саймона и Аллена Ньюэлла, которые создали свою лабораторию в Университете Карнеги – Меллона на Среднем Западе, и Мински, который обосновался на Востоке, в Массачусетском технологическом институте. Они стремились создать искусственную версию человеческого интеллекта, используя любые методы, которые могли бы привести к цели, и были уверены в том, что это не должно занять много времени

; некоторые утверждали, что в течение десяти лет удастся создать машину, которая победит чемпиона мира по шахматам, а также сформулирует и докажет новые теоремы в математике. Лысоватый смолоду, с большими ушами и вечной ехидной улыбкой, Мински стал увлеченным проповедником ИИ, но его проповедничество не распространялось на нейронные сети. Искусственные нейронные сети рассматривались лишь как один из способов построения ИИ, и Мински, как и многие его коллеги, сосредоточился на других путях. К середине 1960-х, когда его вниманием завладели другие технологии, он начал открыто сомневаться, способны ли нейронные сети в принципе на что-то большее, нежели на решение тех простейших задачек, которые демонстрировал Розенблатт у себя в Буффало.

Мински был лишь частью кампании, развернутой против идей Розенблатта. Как писал сам Розенблатт в своей книге, вышедшей в свет в 1962 году, его «Перцептрон» вызывал противоречивые оценки

в научном сообществе, и значительную долю вины за это он возлагал на прессу. Журналисты, писавшие о его исследованиях

в конце 1950-х годов, утверждал Розенблатт, «делали свое дело с задором и беззаботностью своры жизнерадостных собак». В частности, он сетовал

на кричащие заголовки – особенно выделяя одну из оклахомских газет, – которые подрывали у публики доверие к его деятельности как к серьезным научным исследованиям. Через четыре года после вызвавшей шум презентации в Вашингтоне он отзывал обратно свои прежние заявления и настаивал на том, что «Перцептрон» вовсе не был попыткой

создания искусственного интеллекта – по крайней мере не в том смысле, который вкладывают в понятие «искусственный интеллект» ученые вроде Мински. «Основная цель проекта “Перцептрон”

заключается не в изобретении механизмов, обладающих “искусственным интеллектом”, но скорее в изучении физических структур и нейродинамических принципов, лежащих в основе “естественного интеллекта”, – писал он. – Его польза в том, что он позволяет нам определить физические предпосылки для проявления различных психологических качеств». Иными словами, он хотел лишь понять, как работает человеческий мозг, а вовсе не пытался одарить мир новой разновидностью мозга. Человеческий мозг – настолько таинственная вещь, что воссоздать его искусственным путем невозможно, полагал Розенблатт, но можно использовать машины с тем, чтобы эту тайну исследовать, а может быть, даже и раскрыть.

Границы, отделявшие искусственный интеллект как научную дисциплину от информатики, психологии и нейробиологии, с самого начала были размытые, поскольку этой новой дисциплиной занимались представители самых разных научных школ, рассматривавшие эту тематику с разных углов и в разном контексте. Некоторые психологи, нейробиологи и даже ученые, работавшие в сфере информатики, смотрели на эти умные электронные машины так же, как смотрел на них Розенблатт: как на моделирование человеческого мозга. Другие ученые относились к этой идее с неприятием, утверждая, что компьютеры с человеческим мозгом не имеют ничего общего и что даже если они будут способны имитировать интеллект, то будут делать это по-своему. Никто из них, однако, даже близко не подошел к созданию того, что можно было бы по праву назвать «искусственным интеллектом». Основоположники этой науки, считавшие, что путь к воссозданию мозга будет достаточно быстрым, заблуждались: он оказался очень даже долгим. Их первородный грех как раз и состоял в том, что они назвали свою дисциплину «искусственным интеллектом». Это создавало у непосвященной публики впечатление, что ученые вот-вот научатся искусственно воссоздавать могущество человеческого разума, тогда как на самом деле они были очень далеки от этого.

В 1966 году несколько десятков ученых съехались в столицу Пуэрто-Рико Сан-Хуан

. Они собрались

в местной гостинице Hilton, чтобы обсудить последние достижения в области «распознавания паттернов», как они это называли. Речь шла о технологии выявления закономерностей и шаблонов в изображениях и других данных. Если Розенблатт видел в «Перцептроне» модель мозга, другие видели в нем средство распознавания паттернов. Впоследствии некоторые комментаторы изображали дело так, будто Розенблатт и Мински постоянно бодались на научных конференциях, включая сан-хуанскую, открыто споря о будущем «Перцептрона», но на самом деле их соперничество было неявным. Розенблатта в Сан-Хуане вообще не было. Страсти на конференции накалились после выступления молодого ученого по имени Джон Мэнсон. Он работал в Стэнфордском научно-исследовательском институте и проникся идеями Розенблатта после появления Mark I. В составе большой группы разработчиков он пытался построить искусственную нейронную сеть, способную различать не только печатные, но и рукописные буквы, и в своем докладе на конференции хотел рассказать о достигнутом прогрессе. Но когда Мэнсон закончил свое выступление и предложил задавать вопросы, слово взял Мински: «Как может такой умный молодой человек, как вы, тратить свое время на подобную чепуху?»

Это вызвало гневную реакцию со стороны сидевшего в аудитории Рона Свонгера, инженера из Корнеллской лаборатории аэронавтики, где компьютер Mark I как раз и был создан. Возмутившись тональностью, с которой был задан вопрос, он выразил недоумение, каким образом выпад Мински вообще связан с темой доклада. Мински возразил, что он не против распознавания рукописных букв как такового, а против самой концепции «Перцептрона». «У этой идеи нет будущего», – сказал он. Ричард Дуда, еще один участник команды, работавшей над технологией распознавания рукописного текста, был уязвлен смехом, прозвучавшим в зале, когда Мински иронично отозвался об утверждениях, что «Перцептрон» является попыткой моделирования сети нейронов мозга. Вообще это выступление было типично для Мински, которому нравилось расшевеливать улья. Однажды, выступая перед физиками, он заявил, что в области искусственного интеллекта всего за несколько лет был достигнут более значимый прогресс, чем физики достигли за века. Но Дуда полагал, что у профессора МТИ были свои практические резоны подвергать нападкам деятельность сотрудников Стэнфорда и Корнелла: их лаборатории конкурировали за государственные заказы. Позже на той же самой конференции, когда еще один докладчик представил новую систему, предназначенную для создания компьютерной графики, Мински рассыпался в похвалах – и не преминул еще раз пнуть идеи Розенблатта. «А “Перцептрон” на такое способен?» – спросил он.

По итогам конференции Мински и его коллега по МТИ Сеймур Пейперт опубликовали книгу, посвященную искусственным нейронным сетям

, которая получила название «Персептроны»[1 - Под таким названием книга выходила в русском переводе в 1971 г. (М. Минский, С. Пейперт, Персептроны. «Мир», 1971). Однако сегодня одноименную компьютерную модель, а также аппарат принято называть «перцептроном» (от лат. perceptio – восприятие, перцепция), поэтому дальше по тексту будет использоваться данный вариант. – Прим. ред.]. Многие считали, что эта книга практически похоронила идеи Розенблатта на следующие пятнадцать лет. Мински и Пейперт описали «Перцептрон» во всех подробностях, во многих случаях утрируя то, что говорил о нем сам Розенблатт. Они хорошо понимали, на что «Перцептрон» способен, но так же хорошо видели его недостатки. Они показали, что «Перцептрон»

был неспособен выполнять логическую операцию, которую математики называют «исключающее или», и что это имеет очень серьезные последствия. Если нанести на карточку две метки, «Перцептрон» мог бы сказать, что они обе черные. Так же он мог бы правильно назвать две белые метки. Но он был неспособен ответить на такой прямой вопрос: «Эти две метки разного цвета?» Это означало, что в некоторых случаях «Перцептрон» был не в состоянии распознать даже простейшие паттерны, не говоря уже о сложнейших паттернах, которые характерны для аэрофотоснимков или голосовых команд. Некоторые ученые, и Розенблатт в их числе, уже занимались разработкой новых модификаций «Перцептрона», пытаясь решить эту проблему. И все же выход в свет книги Мински повлиял на то, что реки бюджетных денег, выделяемых государством на науку, потекли в другие русла, а идеи Розенблатта были на время позабыты. Вслед за Мински большинство ученых сосредоточились на исследовании так называемого «символического ИИ».

Фрэнк Розенблатт пытался создать систему, которая бы училась самостоятельному поведению примерно так же, как учится человеческий мозг. В последующие годы ученые назвали этот подход «коннекционизмом», поскольку, как и мозг, такая система опирается на большое число взаимосвязанных расчетов. Но система Розенблатта была гораздо проще по сравнению с человеческим мозгом, и процесс обучения ограничивался сущими пустяками. Подобно многим другим ведущим специалистам в этой области знаний, Мински считал, что ученые не смогут создать искусственный разум, пока не проявят готовность отказаться от идей коннекционизма со всеми их ограничениями и переключиться на совершенно иной, куда более прямолинейный подход к построению искусственного интеллекта. Если нейронные сети учатся самостоятельному решению задач через анализ большого количества данных, то символическому ИИ это не нужно. Он ведет себя в соответствии с предельно конкретными инструкциями, которые вводятся в него инженерами; в этих конкретных правилах предусматривается все, что машина должна делать в каждой мыслимой ситуации, в которой она может оказаться. Такую форму ИИ назвали символической, потому что эти инструкции сообщали машине, какие конкретные операции она должна выполнять, получая определенный набор символов, то есть букв и цифр. На протяжении следующего десятилетия именно это направление доминировало в исследованиях ИИ. Это научное движение достигло своего пика

в середине 1980-х, когда началась реализация проекта Cyc, идея которого заключалась в попытке наделить машину здравым смыслом с помощью набора логических правил. Небольшая команда компьютерщиков, базировавшаяся в Остине, штат Техас, день за днем вводила в память машины такие базовые истины, как «невозможно находиться в двух местах одновременно» или «когда пьют кофе из чашки, ее держат дном книзу». Они понимали, что этот процесс займет десятки, может быть, даже сотни лет. Но, подобно многим другим ученым, они были уверены, что другого пути просто нет.

Розенблатт пытался развить идею «Перцептрона», чтобы возможности машины не ограничивались распознаванием образов. Еще в Корнелле он в сотрудничестве с другими учеными создал систему распознавания произносимых голосом слов. Эта система получила название «Тобермори» в честь говорящего кота из рассказа английского писателя Саки, однако она так и не заработала по-настоящему. К концу 1960-х, вернувшись в Итаку, Розенблатт переключился на совершенно иную область исследований

и стал проводить эксперименты на крысах. Дав время одной группе крыс научиться ориентироваться в лабиринте, он впрыскивал их мозговое вещество в мозг другой группы крыс, после чего запускал их в лабиринт, чтобы посмотреть, способны ли они абсорбировать знания первой группы крыс вместе с их мозгом. К какому-то определенному выводу эксперименты не привели.

Летом 1971 года

в свой сорок третий день рождения Розенблатт трагически погиб, катаясь на яхте в Чесапикском заливе. В прессе не сообщали, что именно произошло. Но по свидетельству одного из его коллег, с Розенблаттом на борту были двое студентов, которые не умели управлять яхтой, и, когда резкий поворот паруса сбросил Розенблатта в воду, они не сумели развернуться, чтобы подобрать его. Яхта продолжала движение вперед, а он утонул.

Глава 2

Обещание. «Старые идеи – это новые идеи»

Однажды в середине 1980-х группа из примерно двадцати ученых собралась в особняке, выстроенном в старофранцузском стиле на окраине Бостона, который служил местом отдыха для преподавателей и студентов Массачусетского технологического института, откуда Марвин Мински продолжал руководить международным сообществом разработчиков ИИ. Они сидели за большим деревянным столом в центре комнаты, и Джефф Хинтон вручил каждому экземпляр заполненной математическими выкладками научной статьи, описывающей то, что он назвал «машиной Больцмана». Названная в честь австрийского физика и философа, эта «машина» представляла собой нейронную сеть нового типа, призванную преодолеть те недостатки «Перцептрона», на которые указал Мински пятнадцатью годами ранее. Мински снял скрепку, соединявшую листы статьи, и разложил их перед собой на столе, в то время как Хинтон вернулся во главу стола и сделал короткий доклад, объясняющий свое новое математическое творение. Мински молчал и просто разглядывал разложенные перед ним листы. Когда доклад закончился, он встал и вышел из комнаты, оставив разложенные аккуратными рядами листы на столе.

Хотя нейронные сети выпали из фавора ученых, после выхода в свет книги Мински «Перцептроны», Хинтон, к этому времени занявший должность профессора информатики в Университете Карнеги – Меллона в Питтсбурге, сохранял им верность. «Машину Больцмана» он создал в сотрудничестве с Терри Сейновски, нейробиологом из Университета Джонса Хопкинса в Балтиморе. Они принадлежали к числу «нейросетевых подпольщиков», как назвал их один из современников. Остальные ученые, занимавшиеся искусственным интеллектом, сосредоточились на символьных методах, в том числе на проекте Сус. Хинтон же и Сейновски продолжали видеть будущее ИИ в самообучающихся системах. Бостонская конференция дала Хинтону возможность поделиться своими новыми результатами с широким научным сообществом.

Хинтона реакция Мински не удивила. Они познакомились пятью годами ранее, и Хинтон видел в Мински очень любознательного и творчески мыслящего ученого, но это сочеталось с удивительным ребячеством и безответственностью. Хинтон часто рассказывал историю о том, как Мински учил его, каким образом получить «идеальный черный цвет» – то есть цвет, полностью лишенный цвета. Достичь такого совершенства с помощью черных пигментов невозможно, объяснял Мински, потому что эти пигменты все равно будут отражать свет. Добиться этого можно с помощью нескольких бритвенных лезвий, установленных V-образно, так чтобы свет, попав в эту ловушку, бесконечно отражался от лезвий, не находя выхода наружу. Мински, правда, реально это фокус не продемонстрировал, а Хинтон так и не попробовал его осуществить. Это было типично для Мински – делать интересные и заставляющие задуматься заявления, но при этом случайные и непроверенные. И это свидетельствовало о том, что он не всегда говорил то, что думал. Во всяком случае, когда речь заходила о нейронных сетях, Мински на словах критиковал их и сетовал на их ограниченные возможности – да еще и книгу написал, которая широко цитировалась и как будто бы окончательно доказывала их бесперспективность, – но его истинное отношение к ним было не столь уж твердокаменным. Хинтон видел в нем «бывшего нейросетевика», то есть человека, который изначально принимал идею о машинах, ведущих себя подобно сети нейронов в мозге, потом разочаровался в этой идее, не оправдавшей его ожиданий, но все-таки продолжал таить в себе призрачную надежду на то, что эта идея еще проявит себя. После того как Мински покинул заседание в Бостоне, Хинтон собрал оставленные им листы и переслал их в офис Мински, сопроводив короткой запиской, в которой говорилось: «Возможно, вы оставили их случайно».

* * *

Джеффри Эверест Хинтон родился в английском городе Уимблдон сразу после Второй мировой войны. Он является одновременно прапраправнуком Джорджа Буля, математика и философа девятнадцатого столетия

, чья «булева алгебра» является математическим фундаментом всех существующих компьютеров, и Джеймса Хинтона, хирурга

, жившего в том же столетии, который написал историю Соединенных Штатов Америки. Его прадедом был Чарльз Говард Хинтон, математик и писатель-фантаст

, чье представление о «четвертом измерении» – включая так называемый «тессеракт» – продолжает будоражить умы любителей научной фантастики вот уже сто тридцать лет. Своего пика в поп-культуре эта идея достигла в 2010-е годы в марвеловской серии фильмов о супергероях. Его двоюродный дедушка Себастьян Хинтон изобрел серию тренажерных снарядов для детей

, а его кузина Джоан Хинтон, физик-ядерщик, была одной из немногих женщин, участвовавших в проекте «Манхэттен». Он рос в Лондоне, а потом в Бристоле в обществе брата и двух сестер, мангуста, дюжины дальневосточных черепах и двух гадюк, которые жили в яме в задней части гаража. Его отцом был энтомолог Говард Эверест Хинтон, член Лондонского королевского общества, чей круг интересов отнюдь не ограничивался насекомыми. Как и отец, своим вторым именем Джеффри был обязан еще одному своему родственнику, Джорджу Эвересту, главному геодезисту Индии

, в честь которого названа также высочайшая вершина мира. В том, что Джеффри пойдет по стопам отца и тоже станет ученым, в семье никто не сомневался. Вопрос был лишь в том, что именно он будет изучать.

Ему захотелось изучать человеческий мозг. Интерес к этой теме, по его собственным словам, пробудился в нем еще в подростковом возрасте, когда кто-то из друзей сказал ему, что мозг можно уподобить голограмме: в своей сети нейронов он хранит обрывки воспоминаний примерно так же, как голографическая пластина хранит элементы трехмерного изображения. Аналогия, конечно, упрощенная, но эта идея увлекла Хинтона. Став студентом Кингс-колледжа в Кембридже, он надеялся лучше изучить устройство и работу человеческого мозга. Проблема была в том, что мало кто разбирался в этом лучше, чем он сам. Ученым были известны функции отдельных участков мозга, но не было понимания того, как эти части взаимодействуют друг с другом и как они в конечном счете наделяют человека способностью видеть, слышать, запоминать, учиться и мыслить. В поисках ответа Хинтон пробовал обращаться к физиологии и химии, к физике и психологии, но ни одна из этих научных дисциплин не содержала в себе ответы, которые он искал. Он занялся было подготовкой диссертации по физике, но скоро понял, что для этого недостаточно силен в математике, и переключился на философию. Потом он и философию забросил, сменив ее на экспериментальную психологию. В конце концов, несмотря на давление со стороны отца, который хотел, чтобы сын продолжал учебу, – а может быть, благодаря этому давлению, – Хинтон вообще оставил научную стезю. Еще будучи ребенком, он видел в отце не только ученого-интеллектуала, но и физически очень сильного мужчину: этот член Лондонского королевского общества мог отжиматься на одной руке. «Упорно трудись и, быть может, когда станешь вдвое старше, чем я сейчас, достигнешь хотя бы половины того, чего достиг я», – говорил он сыну без тени иронии. Поэтому после окончания Кембриджа Хинтон, желая выйти из тени отца, перебрался в Лондон и стал плотником. «Я занимался этим не ради развлечения, – говорит он. – Я зарабатывал этим на жизнь».

В том же году он прочитал книгу канадского психолога Дональда Хебба «Организация поведения». В своей книге автор пытался объяснить базовые биологические процессы

, позволяющие мозгу учиться. Процесс учебы, полагал Хебб