Сообщество разума

Предположим, что Алиса, владеющая оптовым магазином, просит менеджера Билла увеличить продажи. Билл поручает продавцу Чарльзу продавать больше радиоприемников. Чарльз оформляет крупный заказ на выгодных условиях. Но выясняется, что производитель не может поставить эти радиоприемники в нужном количестве, потому что возник дефицит производства. Кто виноват? Алисе следовало бы наказать Билла, чья работа состоит в проверке ассортимента. Вопрос в том, нужно ли вознаграждать Чарльза? С точки зрения Алисы, он своими действиями подвел фирму. Но с точки зрения Билла, Чарльз выполнил обязанности продавца и не его вина, что не удалось достичь цели, поставленной руководителем. Рассмотрим этот пример с двух точек зрения – назовем их «локальной наградой» и «глобальной наградой».

Локальная схема вознаграждает каждого агента, который помогает достичь цели руководителя. Потому Билл вознаграждает Чарльза, хотя действия Чарльза не помогли достижению целей более высокого уровня.

Глобальная схема вознаграждает только тех агентов, которые помогают добиваться целей высшего уровня. Следовательно, Чарльз остается без награды.

Придумывать механизмы для реализации локальных тактик обучения просто, ибо награда в каждом случае зависит только от отношений между агентом и его руководителем. Реализовать глобальную схему обучения труднее, поскольку требуется, чтобы механизмы выясняли, какие агенты действуют во имя первоначальной цели посредством цепочек достижения промежуточных целей. Локальная схема сравнительно великодушна к Чарльзу и вознаграждает его всякий раз, когда он выполняет то, о чем его просят. Глобальная схема оказывается «скареднее», она не поощряет Чарльза, даже пускай тот делает то, о чем просит руководитель, если его действия не вносят вклад в достижение цели высшего уровня. В такой схеме агенты зачастую не получают опыта. Соответственно глобальная тактика подразумевает более медленное обучение.

Обе схемы имеют свои преимущества. Осторожность глобальной тактики уместна, когда цена ошибки чрезвычайно высока или когда система располагает запасом времени. Она способна обеспечить более «ответственное» поведение, поскольку побуждает Чарльза научиться своевременно и самостоятельно проверять ассортимент, а не просто подчиняться указаниям Билла. При этом глобальная тактика не позволяет оправдывать личные упущения фразами вроде: «Я только выполнял распоряжение своего начальника». С другой стороны, локальная тактика ведет к мгновенному усвоению многих знаний, ибо каждый агент имеет возможность постоянно улучшать свою способность добиваться локальных целей, независимо от того, как те соотносятся с целями других агентов. Конечно, наши агенты обладают сразу несколькими вариантами действий. Какие именно они выбирают, зависит от состояния в конкретный момент времени других агентов, чья работа заключается в том, чтобы узнавать, какими стратегиями обучения пользоваться в зависимости от обстоятельств.

Глобальная схема требует способа не только выявлять тех агентов, чьи действия помогли справиться с задачей, но и определять, какие агенты помогли при реализации промежуточных целей. Например, в ходе строительства башни может оказаться полезным отодвинуть какой-то кубик, чтобы освободить место для другого. Возникает желание запомнить, что это движение помогает в строительстве башни; но если умозаключить из этого, что такое движение полезно всегда, нам никогда не построить другую башню. Когда мы решаем трудную задачу, обычно мало выяснить, правильными или неправильными были действия конкретного агента для достижения общей цели; необходимо, чтобы такие суждения хотя бы в малой степени зависели от локальных условий, то есть от того, насколько деятельность каждого агента помогала или мешала работе других. Эффект вознаграждения должен заключаться в том, чтобы заставить агента реагировать тем образом, который помогает достижению определенной цели – но без чрезмерного вмешательства в достижение иных, более важных целей. Все это диктуется обычным здравым смыслом, но для движения дальше нам понадобится уточнить нашу терминологию. Мы все испытываем стремление к достижению целей, но опыт вовсе не то же самое, что понимание. Что такое цель и может ли машина стремиться к целям?

7.8. Разностная машина

Рассуждая о «целях», мы неизбежно смешиваем в одном слове тысячу значений. Цели присущи всем неведомым агентам, которые включаются в работу всякий раз, когда мы пытаемся изменить себя или внешний мир. Если «цель» объединяет в себе столь много значений, зачем мы увязываем их все в одно слово? Вот некоторые примеры того, что мы обычно вкладываем в свои рассуждения о цели:

«Целеориентированная» система как будто не реагирует напрямую на раздражители или ситуации, с которыми она сталкивается. Вместо того она рассматривает выявленные факты как объекты, которые система использует или игнорирует, как если бы она была связана с чем-то еще пока не существующим. Когда любое нарушение процесса или какое-то препятствие отвлекает такую систему от намеченного курса, она, судя по всему, пытается устранить помеху, обойти ее или превратить в некое преимущество.

Какие процессы внутри машины создают впечатление того, будто машина имеет цель, действует настойчиво и целенаправленно? Имеется конкретный тип машин, наделенных, как представляется, этими качествами; прототип разработали на изложенных ниже принципах, сформулированных в конце 1950-х годов, Аллен Ньюэлл, К. Дж. Шоу и Герберт Саймон. Первоначально эту машину именовали «универсальным решателем задач», но я буду называть ее разностной машиной.

Разностная машина должна обладать описанием «желаемой» ситуации.

Она должна иметь субагентов, которые активируются различиями между желаемой и фактической ситуациями.

Каждый субагент должен действовать таким образом, чтобы сгладить различие, вызвавшее его активацию.

Рис. 14

С первого взгляда схема может показаться одновременно слишком простой и слишком сложной. С точки зрения психологии разностная машина выглядит чересчур примитивной для воплощения совокупности амбиций, разочарований, удовлетворений и огорчений, проистекающих из достижения или недостижения цели. Но это ведь не качества самих наших целей, они возникают из взаимодействия между многими агентами, которые участвуют в достижении целей. С другой стороны, можно задаться вопросом, действительно ли понятие цели должно опираться на столь сложную четырехстороннюю схему отношений между агентами, ситуациями, описаниями и различиями. Мы увидим, что на самом деле все проще, чем кажется, поскольку большинство агентов учитывают существование различий.

7.9. Намерения

Когда мы наблюдаем, как мяч скатывается по склону, то замечаем, что он будто пытается обогнуть препятствия на своем пути. Не ведай мы о гравитации, у нас могло бы возникнуть искушение подумать, что мяч имеет цель двигаться вниз. Но мы знаем, что он не «пытается» что-либо сделать; впечатление намерения формируется только в сознании наблюдателя.

Когда мы экспериментируем со Строителем, нам тоже кажется, что у него есть цель. Всякий раз, когда вы оставляете кубики подальше, он протягивает руку и возвращает их обратно. Всякий раз, когда вы разваливаете башню, он ее восстанавливает. Он словно хочет построить башню и упорно трудится, пока башня не будет построена. Разумеется, Строитель выглядит умнее катящегося мяча, поскольку ему приходится преодолевать более серьезные препятствия. Но стоит нам понять, как работает Строитель, как мы видим, что он не сильно отличается от мяча: все, что он делает, это продолжает искать кубики и ставить их сверху других кубиков. Действительно ли у Строителя есть цель?

Одним из элементов стремления к цели является настойчивость. Мы не скажем, что Строитель хочет возвести башню, если он бросит попытки ее построить. Но самой по себе настойчивости недостаточно – ни Строитель, ни катящийся мяч не имеют ни малейшего представления о том, каков будет конечный результат их труда. Другим важным элементом стремления к цели является наличие некоторого образа или описания желаемого состояния. Прежде чем мы согласимся, что Строитель хочет возвести башню, мы должны убедиться, что он обладает неким образом или описанием этой башни. Концепция разностной машины воплощает в себе оба элемента: представление о некоем результате и механизм действия до достижения этого результата.

В самом ли деле разностные машины «испытывают желание»? Задавать подобные вопросы бессмысленно, поскольку они подразумевают различия там, где их нет и в помине (разве что в сознании наблюдателя). Можно воображать наш мяч совершенно пассивным объектом, который просто реагирует на внешнее воздействие. Однако физик[9 - Так у автора. Корректнее все-таки называть этого французского ученого механиком и естествоиспытателем.] XVIII века Жан Лерон д’Аламбер показал, что возможно точно предсказывать поведение катящегося мяча, если описывать тот как разностную машину, чья цель состоит в расходовании собственной энергии. Нам нет необходимости принуждать себя к выяснению того, есть ли у машин цели или нет. Слова должны быть нашими слугами, а не хозяевами. Понятие цели облегчает описание некоторых действий людей и машин; оно предлагает нам возможность использовать простые описания с точки зрения активных целей вместо громоздких и неудобоваримых описаний деятельности машин.

Разумеется, многое из того, что люди подразумевают под «целями», осталось неохваченным. У нас, людей, столько способов желать чего-то, что ни одна схема не способна вместить их все. Тем не менее данная концепция уже привела ко многим важным открытиям в изучении искусственного интеллекта и в психологии. Схема разностных машин остается наиболее полезной для выявления целей или намерений, которые еще не проявили себя.

7.10. Гениальность

Естественно, мы восхищаемся нашими Эйнштейнами, Шекспирами и Бетховенами – и задаемся вопросом, смогут ли машины когда-либо выдвигать столь дерзновенные теории, создавать столь великие пьесы и симфонии. Большинство людей считают, что для этого требуется «талант» или «дар», который не поддается объяснению. Если так, тогда отсюда следует, что компьютеры не способны творить, поскольку все действия машин объяснимы. Но почему мы предполагаем, что творения и свершения величайших людских умов сильно отличаются от творений и свершений обычных людей? Мы ведь так мало знаем о том, что делают обычные люди! Конечно, преждевременно спрашивать, как великие композиторы сочиняют великие симфонии, до того, как мы выясним, как обычные люди мыслят себе обычные мелодии. На мой взгляд, нет принципиальной разницы между обыденной и «творческой» мыслью. Прямо сейчас, если меня спросят, что кажется мне более загадочным, я отвечу: обыденное.

Нельзя позволять нашей зависти к признанным мастерам науки и искусства отвлекать нас от вопроса о том, каким образом каждый из нас обретает новые идеи. Возможно, мы так привержены предрассудкам применительно к творчеству, поскольку они оправдывают в наших глазах собственные недостатки. Когда мы твердим себе, что выдающиеся способности к чему-либо попросту необъяснимы, то утешаемся тем, что эти супергерои, мол, наделены всеми качествами, которыми мы не обладаем. Поэтому в наших неудачах следует винить не себя, а достоинства этих супергероев – вовсе не их заслуга. Если они не обучились своим умениям, значит, этим можно пренебречь.

Когда мы действительно встречаем людей, которых наша культура считает замечательными, то не обнаруживаем в них уникальных свойств – отмечаем лишь комбинации довольно распространенных «ингредиентов». Да, в большинстве своем эти люди сильно мотивированы, но то же самое можно сказать и о многих других. Они, как правило, очень хорошо разбираются в какой-то области, но подобные познания мы называем мастерством или опытом. Они часто обладают достаточной уверенностью в себе, чтобы противостоять недовольству и презрению вышестоящих, однако применительно к себе мы могли бы назвать эту черту упрямством. Разумеется, они смотрят на мир иначе, но и все мы поступаем так время от времени. Что же касается феномена, который принято именовать «интеллектом», лично я полагаю, что всякий человек, способный говорить внятно, располагает большей частью тех качеств, которые приписывают гениям. Так что же тогда выделяет гения среди прочих, если у каждого из нас имеется «запас гениальности?

Подозреваю, что гению требуется еще одно свойство: чтобы в личности объединились выдающиеся качества, нужны чрезвычайно эффективные навыки обучаемости. Недостаточно просто многому учиться; нужно также управлять тем, чему учишься. Гении скрывают под верхним слоем мастерства некие особые навыки «высшего порядка», которые помогают им организовывать обучение и применять усвоенное на практике. Именно эти «скрытые трюки» управления разумом порождают системы, способные создавать гениальные произведения. Почему некоторые люди учатся гораздо больше и лучше других? Эти важные различия могут начать формироваться в раннем детстве. Один ребенок придумывает затейливые способы расположить кубики столбиками и рядами, другой же придумывает, как бы он расположил эти кубики – мысленно. Все будут хвалить замки и башни первого ребенка, но никто не сможет понять, что сотворил второй, и может даже сложиться обманчивое впечатление умственной отсталости. Но если второй ребенок продолжит искать наилучшие способы обучения, это может обернуться, так сказать, незаметным развитием, при котором отдельные лучшие способы обучения могут преобразиться в лучшие способы обучения обучению. А далее мы узрим поразительное качественное изменение без видимой причины – и придумаем какое-нибудь бессмысленное объяснение, сошлемся на талант, склонность или дар.

В завершение предложу жуткую гипотезу: возможно, то, что мы называем гениальностью, наблюдается редко потому, что эволюция не поощряет индивидуальность. В состоянии ли какое-либо племя или какая-либо культура существовать долго, если каждый станет изобретать новые способы мыслить? Если нет, это грустно, ведь гены гениальности в таком случае могут не пестоваться, а старательно изничтожаться.

Глава 8

Теория памяти

…мне нужно было… постараться осознать природу счастливых ощущений… и затем извлечь из этого необходимые уроки. Мне недостаточно было просто определить ту огромную разницу между истинным ощущением, что получаем мы от предмета, и ощущением искусственным, которое сами внушаем себе, когда по собственной воле пытаемся воссоздать его… я слишком хорошо понимал: то, что пробудило во мне ощущение неравных плит, жесткость салфетки, вкус мадленки, не имело никакого отношения к тому, что я часто пытался вспомнить… если можно так выразиться, обычным способом, обычной памятью… Следует признать, однако, что все эти изменения в нас происходят незаметно, понемногу; но между нахлынувшим внезапно воспоминанием и нашим нынешним состоянием, а также между двумя воспоминаниями, относящимися к событиям разных лет и мест, дистанция огромна настолько, что одного этого было бы достаточно – а ведь существует еще и особое своеобразие, – чтобы их вообще нельзя было сравнивать…[10 - «Обретенное время». Перевод А. Смирновой.]

    Марсель Пруст

8.1. Строки З: теория памяти

Мы часто упоминаем о памяти так, будто наши знания хранятся в неких ящиках разума, как вещи, которые мы храним в шкафах домах. Но эта трактовка вызывает много вопросов.

В какой форме представлено знание?

Как оно хранится?

Как оно извлекается?

Как оно далее используется?

Всякий раз при попытке ответить на любой из этих вопросов остальные, похоже, усложняются, поскольку мы не можем четко отличить наше знание от способов его использования. В следующих нескольких разделах настоящей книги будет дано изложение теории памяти и я постараюсь ответить на все перечисленные вопросы, допустив, что мы храним единицы знаний рядом с агентами, их использующими. Таким образом наши знания оказываются легкодоступными и простыми в использовании. Эта теория основана на представлении об агентах, которых я называю «строками знания», или, для краткости, строками З.

Когда вам «приходит отличная идея», когда вы справляетесь с задачей или приобретаете существенный опыт, происходит активация строки З, призванной «выразить» это воспоминание. Строка З есть подобная проволоке структура, которая «прикрепляется» к активным ментальным агентам, когда мы решаем задачу или обдумываем отличную идею.

Если активировать эту строку З, впоследствии связанные с нею агенты возбуждаются, вводя нас в «психическое состояние», схожее с тем, которое сложилось, когда мы решили задачу или породили идею. Тем самым облегчается возможность решения новых, аналогичных задач!

Другими словами, мы «запоминаем» то, о чем думаем, составляя список агентов, участвующих в этой деятельности. Создание строки З подобно составлению списка людей, пришедших на вечеринку. Вот еще один пример того, как работает строка З; это пример предложил Кеннет Хаасе, студент лаборатории искусственного интеллекта при МТИ, чьи мысли оказались весьма важны для формулировки данной теории.

Вы хотите отремонтировать велосипед. Прежде чем начать, окуните руки в красную краску. Каждый инструмент, который вам понадобится, получит в итоге красные отпечатки. Когда вы закончите, просто запомните, что красный означает «годится для ремонта велосипедов». В следующий раз, когда будете чинить велосипед, вы сэкономите себе время, заранее достав все инструменты с красными метками.

Если вы станете использовать разные цвета для разных видов работ, некоторые инструменты будут иметь в итоге разноцветные ручки. Следовательно, каждый агент может соединяться со многими строками З. Потом, берясь за новую работу, просто активируйте нужную строку З, и все инструменты, которыми вы пользовались для такой работы ранее, как бы автоматически станут доступными.

Такова базовая идея теории строк З. Но предположим, что вы взяли конкретный гаечный ключ, а он не подошел к гайке. Значит, вы зря окрасили этот инструмент красным. Чтобы строки З работали эффективно, нам понадобится более изощренная тактика. Тем не менее исходная посылка проста: для каждого знакомого вида умственной деятельности наши строки З могут поставлять разуму фрагменты идей, которые мы использовали ранее для схожей работы. В такой миг мы становимся в немалой степени похожими на прежних себя.

8.2. Воспоминания

Допустим, когда-то, давным-давно, вы решили конкретную задачу P. Некоторые из ваших агентов были тогда активны, другие пребывали в состоянии покоя. Теперь давайте предположим, что некий «процесс обучения» заставил агентов, активных тогда, установить связь с агентом kP, который мы будем называть строкой З. Если вы когда-нибудь снова активируете агента kP, он возбудит только тех агентов, которые были активны, когда вы впервые решали задачу P!

Рис. 15

Сегодня вы решаете другую задачу. Ваш ум находится в новом состоянии, возбуждены агенты Q. Ваш разум подозревает, что задача Q похожа на задачу P – и активирует агента kP.

Рис. 16

Теперь в нашем сознании одновременно действуют два набора агентов: агенты Q (недавние мысли) и агенты Р, то есть воспоминания. Если все пройдет гладко, оба набора агентов, возможно, смогут сотрудничать в решении новой задачи. Таково простейшее представление о том, что такое воспоминания и как они формируются.