Сообщество разума

Смятение и боль имеют вредные последствия, ибо они иногда заставляют нас отвергать поставленные цели в более крупных масштабах, чем это кажется уместным: «Я прямо заболеваю от этой работы. Возможно, я должен бросить весь проект (сменить профессию, порвать отношения)». С другой стороны, даже столь удручающие мысли способны послужить «зондами» для поиска других агентов, которые окажутся способными помочь.

Глава 7

Проблемы и цели

7.1 Интеллект

Множество людей уверены, что знают, что такое «интеллект».

Критик:Откуда нам известно, что растения и камни, бури и ручьи не обладают интеллектом? Возможно, они разумны, просто мы этого еще не постигли?

Вообще обозначать одним и тем же словом различные явления, кажется неправильным – если только мы не считаем, что эти явления схожи между собой в каких-то важных отношениях. Растения и ручьи, насколько можно судить, не наделены способностями решать те задачи, которые мы полагаем интеллектуальными.

Критик:Что такого особенного в решении задач? И почему бы нам не дать однозначное определение «интеллекта», чтобы не возникало разногласий относительно предмета обсуждения?

Это было бы неправильно. Дело автора состоит в том, чтобы употреблять слова по образу и подобию словоупотребления других людей, а не в том, чтобы растолковывать другим, как надлежит употреблять эти слова. В тех редких случаях, когда слово «интеллект» используется в настоящей книге, оно означает именно то, что люди обычно имеют в виду под интеллектом – способность решать трудные задачи.

Критик:Тогда следует объяснить, что подразумевается под «трудной» задачей. Нам известно, что для возведения пирамид потребовались изрядные усилия человеческого интеллекта, однако крошечные коралловые рыбки строят грандиозные конструкции еще больших размеров. Разве мы не должны посчитать их разумными? Ведь постройка гигантского кораллового рифа – трудная задача, не так ли?

Да, так, но способность животных «решать» задачи является лишь иллюзией! Никакая птица не придумывает способ летать. Вместо того каждая птица использует решение, которое развивалось у рептилий на протяжении бесчисленных лет эволюции. Точно так же, пускай человеку может быть непросто сконструировать орлиное гнездо или бобровую плотину, никакой орел и никакой бобр не «изобретают» способов такого строительства. Они не «решают» задачи, а всего-навсего используют способы, которые «заложены» благодаря эволюции в их генах.

Критик:Но тогда нам придется допустить, что сама эволюция обладает неким интеллектом, раз она решает задачи полета и строительства рифов и гнезд?

Вовсе нет, ведь люди также употребляют слово «интеллект», когда желают отметить быстроту и эффективность действий. Темпы эволюции настолько медленные, что мы не считаем возможным рассуждать о ее разумности, пусть она в итоге порождает замечательные свершения, на которые мы до сих пор не способны. Во всяком случае, нецелесообразно использовать старые и многозначные слова наподобие слова «интеллект» так, будто они должны означать что-то строго определенное. Вместо попыток заявить, что такое слово «означает» то-то и то-то, корректнее объяснить, как мы намерены его употреблять.

В нашем разуме происходят процессы, позволяющие нам решать задачи, которые мы полагаем трудными. Интеллектом мы называем те процессы, сути которых еще не понимаем.

Некоторым это «определение» не понравится, поскольку его содержание обречено меняться вслед за развитием психологии как науки. На мой взгляд, иного определения искать не нужно, ибо сама концепция интеллекта выглядит трюком фокусника. Подобно концепции о существовании «неизведанных областей Африки», она исчезает, едва мы над нею задумываемся.

7.2. Здравый смысл

Всем нам доводилось слышать шутки о том, насколько тупы современные компьютеры. Они присылают нам счета и чеки с нулевыми суммами. Они готовы исполнять бесконечные циклы, повторяя одну операцию миллиард раз подряд. Полное отсутствие у машин здравого смысла – вот еще одна причина, по которой люди считают, что машина не способна обрести разум.

Интересно отметить, что уже некоторые из наиболее ранних компьютерных программ превосходно показали себя во владении тем, что принято считать «экспертными» навыками. Программа 1956 года решала трудные задачи математической логики, а программа 1961 года решала университетские алгебраические задачи. Но до 1970-х годов не удавалось разрабатывать программы для роботов, которые позволяли бы справляться с детскими кубиками, строить из них башни и игрушечные домики. Почему мы в состоянии писать программы для выполнения «взрослых» действий, а вот с «детскими» действиями получается куда хуже? Ответ может показаться парадоксальным: в значительной степени «экспертное» взрослое мышление на самом деле проще, чем мышление детей, занятых игрой! Почему же поведение экспертов моделировать и программировать легче, нежели поведение детей?

Слабо понимаемое словосочетание «здравый смысл» на самом деле обозначает явление, куда более сложное, чем значительная часть «технического» опыта, которым мы восхищаемся. Ни «экспертная» программа по логике, ни аналогичная программа по алгебре не содержат больше сотни «фактов», причем эти факты во многом подобны друг другу. Но этого оказалось достаточно, чтобы решать университетские математические задачи. А теперь вообразите, сколько всего должен знать ребенок, чтобы построить дом из кубиков! Этот процесс включает в себя знание цветов и форм, представление о пространстве и времени, систему сдержек и противовесов, а также способность отслеживать собственные действия.

Чтобы считаться «экспертом», нужно обладать изрядными познаниями относительно сравнительно немногочисленных фактов. По контрасту, «здравый смысл» обычного человека подразумевает гораздо большее разнообразие познаний, которые требую более сложной системы управления.

Существует простая причина, почему приобретать специализированные знания легче, нежели пополнять запасы здравомыслия. Каждый тип знаний нуждается в определенной форме репрезентации и в совокупности навыков, адаптированных к использованию этой формы. После первоначальных усилий по накоплению знаний и навыков специалисту довольно просто пополнять свои знания – при условии, что дополнительный опыт достаточно единообразен и соответствует конкретной форме представления. Адвокат, доктор, архитектор или композитор, которые приобрели некоторый опыт в определенной сфере деятельности, без труда будут накапливать больше знаний подобного же характера. Но подумайте, насколько дольше один человек будет учиться эффективно лечить ряд заболеваний, вести судебные процессы нескольких разновидностей, чертить архитектурные чертежи и сочинять оркестровые сюиты! Большее разнообразие представлений затрудняет обретение «одинакового» объема знаний во всех перечисленных областях. Для каждой новой области нашему образцу придется изучать иную форму репрезентации и новые навыки ее использования. Это отчасти похоже на изучение множества иностранных языков, у каждого из которых своя грамматика, своя лексика и свои идиомы. С этой точки зрения действия детей выглядят еще восхитительнее, так как многие их поступки вызваны собственными изобретениями и открытиями.

7.3. Принцип головоломки

Многие люди считают, что машины способны выполнять только действия, на которые их запрограммировали, то есть напрочь лишены способности к творчеству и оригинальности. Проблема в том, что данный аргумент содержит в себе посылку, которую призван доказать: мол, нельзя запрограммировать машину на творчество! На самом же деле поразительно просто запрограммировать компьютер так, чтобы он начал выполнять операции, вообразить которые заранее не в состоянии ни один программист. Возможно, это следствие того, что мы будем называть «принципом головоломки».

Принцип головоломки:Возможно запрограммировать компьютер для решения любых задач методом проб и ошибок без готовых вариантов решений, при условии, что мы располагаем способом установить факт решения задачи.

Под методом «проб и ошибок» подразумевается систематическое программирование для генерации всех возможных структур в пределах некоторой вселенной возможностей. Например, предположим, что нам требуется робот, способный построить мост через реку. Наиболее эффективная программа для такого робота означает выполнение определенной процедуры, описанной заранее, для надлежащего размещения досок и забивания гвоздей. Конечно, написать такую программу невозможно, не обладая сведениями о строительствах мостов. Но рассмотрим альтернативу ниже – иногда ее называют методом генерации и тестирования. Нужно составить двухчастную программу.

Генерация:Первый этап просто формирует, одну за другой, все возможные комбинации досок и гвоздей. На первый взгляд может показаться, что написание такой программы вызовет затруднения. Однако выясняется, что это удивительно легко, стоит лишь сообразить, что комбинации досок и гвоздей не обязаны быть «здравыми» с человеческой точки зрения!

Тестирование:Второй этап процесса сводится к проверке каждого варианта комбинаций для выяснения того, была ли решена задача. Если цель заключалась в постройке плотины, успешным результатом тестирования будет перекрытие водного потока. Если же цель состояла в том, чтобы построить мост, тестирование покажет, можно ли перейти реку.

Этот метод побуждает нас пересмотреть привычные представления об интеллекте и творчестве, поскольку он означает, что – по крайней мере, в теории – возможно заставить машину решать любые задачи, для которых мы способны признать наличие решения. Однако на практике такой метод редко оказывается оправданным. Только вообразите: тысячи способов соединить две доски вместе, миллион способов соединить три доски, миллиард способов собрать вместе четыре доски! Понадобилось бы невероятно много времени, прежде чем машина, опираясь на принцип головоломки, смогла бы построить надежный мост. Но с позиций философии этот принцип позволяет заменить привычный взгляд на тайны творчества более конкретными вопросами относительно эффективности ментальных процессов. Основной проблемой нашей мостостроительной машины является отсутствие связи между генерацией идей и их тестированием. Без какого-либо представления о движении к цели тяжело добиться чего-то большего, чем простой перебор всех доступных возможностей.

7.4. Решение задач

В принципе мы можем использовать метод генерации и тестирования, то есть метод проб и ошибок, для решения любых потенциально решаемых задач. Но на практике даже самому мощному компьютеру потребуется немало времени для перебора достаточного количества возможных решений. Элементарная сборка простого игрушечного дома из дюжины деревянных кубиков обернется анализом количества возможностей, превышающего то, какие ребенок мог бы перебрать за всю свою жизнь. Вот один из способов улучшить этой «слепой» поиск методом проб и ошибок.

Принцип прогресса:Всякий процесс исчерпывающего поиска может быть значительно упрощен, если мы каким-то образом сможем выявлять достижение «прогресса». Далее мы сможем проследить путь к решению, как человек может подняться на незнакомый холм в темноте, ощупывая землю перед собой, чтобы придерживаться верного направления.

Многие простые задачи возможно разрешить этим способом, но для трудных задач распознать «прогресс» может оказаться ничуть не легче, чем решить саму задачу. Не имея перед собой общей картины, наш «скалолаз» может навсегда застрять на каком-то промежуточном холме и никогда не добраться до искомой вершины. Надежного способа избежать этой опасности не существует.

Цели и подцели:Наилучший способ выявления методов решения трудных задач заключается в поиске метода, который позволит разделить задачу на несколько более простых, чтобы решать каждую из них по отдельности.

Многие исследования в области так называемого искусственного интеллекта связаны с поиском методов, которыми машины смогут разделять задачи на малые фрагменты, а затем, при необходимости, делить их на еще более мелкие фрагменты. В следующих нескольких разделах настоящей книги мы обсудим, как это можно сделать посредством постановки задач в качестве «целей».

Использование «знания»:Самый эффективный способ решить задачу – это знать заранее, как она решается. В таком случае поиск решения не потребуется.

Соответственно другое направление в изучении искусственного интеллекта нацелено на поиск способов передачи знаний машинам. Сама эта проблема состоит из нескольких частей: мы должны узнать, как получить необходимые знания, должны научиться корректно репрезентировать эти знания, должны наконец разработать процессы, которые позволят эффективно использовать полученные знания. Чтобы добиться этого, наши воспоминания должны предоставлять не обилие мелких подробностей, а, прежде всего, те взаимосвязи между ними, которые помогут нам добиться цели. Подобные исследования привели к созданию множества практически ориентированных «основанных на знаниях» систем решения задач. Некоторые из них нередко называют «экспертными системами», поскольку они основаны на подражании методам людей-экспертов.

Кроме того, эти исследования дали еще один любопытный результат. Зачастую, как выяснилось, куда проще запрограммировать машины на решение специализированных задач, которые кажутся трудными образованным людям (например, игре в шахматы или доказательству теоремы в логике и геометрии), чем заставить их делать то, что большинству людей видится простым – например, строить игрушечные домики из детских кубиков. Вот почему я уделяю так много внимания «простым» задачам на страницах этой книги.

7.5. Обучение и память

Распространенное убеждение гласит, будто мы учимся лишь тому, за что нас вознаграждают. Некоторые психологи утверждают, что человеческое обучение как таковое основано исключительно на «подкреплении» наградой: даже когда учимся без каких-либо внешних побуждений, мы действуем как бы в предвкушении вознаграждения, только в форме сигналов от внутреннего «я». Но нельзя опираться на довод, который изначально допускает то, что он призван доказывать; вдобавок при попытках использовать эту идею для объяснения того, как люди учатся решать трудные задачи, мы сталкиваемся с фатальной цикличностью. Вы должны уметь что-то делать, прежде чем получите награду за свои действия!

Эта цикличность не казалась серьезным препятствием в те времена, когда Иван Павлов столетие назад изучал условные рефлексы, поскольку в его экспериментах животным не приходилось демонстрировать новые виды поведения; от них требовалось лишь увязывать новые стимулы с прежним поведением. Спустя несколько десятилетий исследования Павлова были дополнены гарвардским психологом Б. Ф. Скиннером, который установил, что высшие животные действительно порой демонстрируют новые формы поведения – «операнты» в его терминологии. Эксперименты Скиннера подтвердили, что, когда за каким-либо оперантом следует вознаграждение, эта форма поведения, скорее всего, будет повторяться впоследствии. Скиннер также обнаружил, что подобное обучение куда действеннее, если животное не может догадаться, получит оно награду или нет. Под определениями «оперантное обусловливание» и «модификация поведения» открытия Скиннера оказали заметное влияние на психологию и образование, однако так и не объяснили, как возникают новые операнты. Кроме того, лишь отдельные эксперименты на животных способны пролить свет на принципы, по которым люди учатся составлять и выполнять свои сложные планы; проблема в том, что другие животные едва ли в состоянии научиться хоть чему-то. Сходство концепций награды / успеха и наказания / неудачи не дает внятного представления о том, как люди учатся порождать новые идеи, позволяющие решать трудные задачи, которые в противном случае могли бы быть решены только посредством продолжительного и малоэффективного процесса проб и ошибок.

Ответ должен лежать в изучении наилучших способов обучения. Чтобы обсудить данный вопрос, следует начать с употребления многих обычных слов, таких как «цель», «награда», «обучение», «мышление», «признание», «симпатия», «желание», «воображение» и «запоминание» (все они восходят к древним, смутно осознаваемым понятиям). Мы обнаруживаем, что большинство этих слов нужно заменить новыми описаниями и идеями. Тем не менее у них есть нечто общее: для решения любой трудной задачи надлежит использовать различные виды воспоминаний. В каждый момент времени мы должны следить за тем, что только что сделали, или нам придется повторять те же шаги снова и снова. Еще мы вынуждены придерживаться поставленных целей, иначе мы придем к тому, что начнем совершать бессмысленные поступки. Наконец, едва задача будет решена, нам понадобится запомнить, как это было сделано, чтобы использовать это знание впоследствии, когда снова возникнет подобная задача.

Бо?льшая часть настоящей книги посвящена памяти, то есть ментальной фиксации прошлого. Почему, когда и как осуществляется такая фиксация? Когда человеческий разум решает трудную задачу, он задействует миллионы агентов и процессов. Какие агенты оказываются достаточно мудрыми для того, чтобы догадаться о необходимых изменениях? Высокоуровневые агенты не могут знать об этом; они едва ли ведают о существовании процессов нижнего уровня. А низкоуровневые агенты тоже не знают, какие из их действий помогают нам добиваться наших целей на высоких уровнях; они едва ли подозревают о наличии целей более высокого уровня. Агентам, которые управляют ногами, все равно, идем ли мы домой или на работу; агенты же, делающие выбор между домом и работой, ничего не знают об управлении конкретными группами мышц. Где в разуме хранятся сведения о том, какие агенты заслуживают награды или наказания?

7.6. Фиксация и награда

Чтобы обучение состоялось, каждый шаг в игре должен приносить намного больше информации. Это достигается за счет разделения задачи на фрагменты. Измерителем успеха служит достижение цели. Если цель достигнута, подцели фиксируются; если нет, они стираются.

    Аллен Ньюэлл

Одно известно наверняка: нам всегда легче делать то, что мы делали раньше. Что происходит в нашем сознании, вследствие чего это становится возможным? Вот что мне видится: при решении какой-либо задачи некоторые агенты, вероятно, активируют каких-то других агентов. Давайте примем, что под «вознаграждением» имеется в виду ситуация, когда агент А участвует в активации агента Б, и следствием вознаграждения будет, что впредь для А станет легче активировать Б, зато, возможно, станет тяжелее активировать других агентов. В свое время я был настолько захвачен этой идеей, что разработал машину под названием «Snarc», которая обучалась по данному принципу; она объединяла сорок агентов, каждый из которых был связан с несколькими другими, более или менее наугад, посредством системы «вознаграждений», а последняя включалась после всякого успешного действия и побуждала агента к стимулированию тех же реципиентов сигнала в дальнейшем.

Мы вводили в эту машину задачи наподобие поиска выхода из лабиринта при необходимости избегать встречи с опасным хищником. Машина быстро научилась решать простые задачи, но никак не могла справиться с трудными, например с постройкой башен из кубиков или с игрой в шахматы. Стало ясно, что для решения трудных задач любая машина с памятью ограниченной емкости должна иметь возможность повторно использовать своих агентов по-разному в разных контекстах (вспомним агента «Видеть» и две параллельные задачи, в которых он задействован). Но когда машина пыталась научиться прохождению через хитроумный лабиринт, типичный агент предлагал то правильное направление в один момент времени, то неправильное в другой момент. Позже, когда мы ввели награду за правильные действия, оба решения сделались более вероятными, причем правильный и неправильный выборы тяготели к тому, чтобы отменять друг друга!

Налицо дилемма проектирования машин, которые учатся, «фиксируя» взаимосвязи между агентами. В процессе решения трудной задачи мы обычно совершаем несколько неудачных действий, прежде чем находим правильное; по сути, как раз это имеется в виду, когда мы говорим о «трудных» задачах. Чтобы избежать обучения неправильным действиям, можно было бы запрограммировать машину на фиксацию только тех действий, которые непосредственно предшествовали успеху. Но такая машина способна обучиться лишь решению задач, которые требуют нескольких шагов. В качестве альтернативы можно было бы увеличить срок действия вознаграждения, однако в таком случае награда станет выдаваться и за неправильные действия наряду с правильными, а вдобавок будут стираться ранее усвоенные знания. Мы не можем научиться решению трудных задач посредством «массовой» фиксации состояний агентов или их связей. Почему среди всех животных только обладающие большим мозгом сородичи человека способны научиться решать задачи, которые требуют многих последовательных шагов или связаны с использованием тех же агентов для разных целей? Ответ следует искать в тактиках, которые наши агенты применяют для достижения целей.

Мне могут возразить, что бобр выполняет множество действий при постройке плотины, а колонии термитов возводят затейливые гнезда. Однако эти замечательные животные не изучают индивидуально такие практики, они используют навыки, закодированные в их генах благодаря миллионам лет эволюции. Бобра не научить строить гнезда термитов, а термитов не научить строить бобровые плотины.

7.7. Локальная ответственность