Сообщество разума

Почему кажется гораздо труднее объяснять нашу реакцию на рисунки, личности и культурные традиции? Многие люди скажут, что на эти «субъективные» вопросы невозможно ответить, поскольку они затрагивают особенности человеческого сознания. Но это не значит, что ответов не существует. Это значит, что прежде нам следует узнать побольше о нашем разуме.

«Субъективные» реакции также основываются на взаимодействии объектов. Разница заключается в том, что здесь мы имеем дело не с объектами внешнего мира, а с процессами внутри нашего сознания.

Другими словами, вопросы касательно искусства, характера и стиля жизни на самом деле являются, так сказать, сугубо техническими. Они побуждают нас объяснять, что именно происходит между агентами в нашем разуме. Однако об этом мы никогда не сможем узнать достаточно, и наука здесь, к сожалению, не помощница. Со временем ответы, конечно, будут найдены. Но мы всего-навсего продлеваем ожидание ответов, продолжая прибегать к псевдообъяснениям со словами вроде «целостность» или «гештальт». Да, порой именование объектов помогает, позволяя сосредоточиться на конкретной загадке. Но опасно думать, будто имена сами по себе способны прояснить значение и назначение объектов.

2.4. Части и прорехи

Огромное большинство людей пребывает в убеждении, что способность чувствовать и мыслить [кои нематериальны] по самой своей природе менее подвержена разложению и умалению, а также что, когда человеческое тело распадается на составляющие его элементы, начало, одушевлявшее это тело, пребывает вечно сущим и не ведает изменений. Тем не менее, вполне возможно, что нечто, именуемое нами мыслью, не есть живое бытие; это не более чем отношение между определенными частями той бесконечно изменяющейся массы, из которой составлена вся остальная вселенная, и оно перестает существовать, едва эти части вселенной изменяют свое положение относительно друг друга.

    Перси Биши Шелли

Что такое жизнь? Анатом вскрывает тело, но не находит жизни внутри. Что такое разум? Анатом вскрывает мозг, но не находит в нем разума. Неужели жизнь и разум настолько больше «суммы частей», что их бесполезно искать? Чтобы ответить на этот вопрос, вообразим вот такой (пародийный, конечно) разговор между холистом, сторонником идеи о целостности мира, и обычным человеком.

Холист:Я докажу, что никакая коробка не удержит внутри мышь. Коробка состоит из шести деревяшек, прибитых друг к другу гвоздями. Очевидно, что она не удержит мышь, не обладая некоей «мышестойкостью» или повышенной прочностью. Никакая доска по отдельности не обладает способностью к удержанию, и мышь благополучно минует эту преграду. Раз одна деревяшка лишена такой способности, ее не может быть у всех шести досок. Поэтому коробка не обладает «мышестойкостью». Теоретически мышь может сбежать когда угодно.

Обычный человек:Поразительно! Но почему мышь остается в коробке?

Холист:Тут все просто. Пускай коробка не обладает фактической «мышестойкостью», но она способна «имитировать» данную характеристику настолько хорошо, что мышь обманывается и оказывается не в состоянии сбежать.

Итак, что же удерживает мышь внутри? Конечно, то обстоятельство, что стены коробки преграждают ей путь во всех направлениях, так как каждая стенка блокирует движение в конкретном направлении. Левая стенка не дает мыши пойти влево, правая стенка не пускает вправо, крышка не позволяет мыши выпрыгнуть, и так далее. Следовательно, секрет коробки – в расположении стенок, предотвращающих свободное перемещение мыши во всех направлениях! Вот пресловутая «способность к удержанию». Глупо искать эту способность в каждой отдельной доске, но все вместе доски обеспечивают коробке способность к удержанию. Все равно что флеш-рояль в покере: выигрывает только комбинация пяти старших карт одной масти.

То же самое относится к понятиям «жизнь» и «разум». Глупо использовать эти слова для описания мельчайших составных частей живых существ, поскольку данные слова употребляются для обозначения взаимодействия совокупности частей. Подобно слову «удерживание», слова «жизнь» и «мышление» пригодны для описания явлений, возникающих в результате определенных комбинаций взаимосвязей. Причина, по которой коробка выглядит простой и понятной, заключается в том, что все понимают, каким образом стенки надежно изготовленной коробки предотвращают побег животного, находящегося внутри. По правде говоря, слово «жизнь» уже утратило значительную часть своей загадочности – по крайней мере для современных биологов, ибо они выявили множество важных взаимодействий между химическими веществами в клетках. Но разум по-прежнему сохраняет свою тайну, ибо мы до сих пор мало знаем о взаимодействии ментальных агентов.

2.5. Легко и трудно

В конце 1960-х годов Строителя удалось «воплотить» в виде компьютерной программы, разработанной Лабораторией искусственного интеллекта при Массачусетском технологическом институте. Мы с моим соратником Сеймуром Пейпертом долго пытались объединить механическую руку, глаз-телевизор и компьютер в робота, который мог бы выстраивать фигуры из детских кубиков. Нам и нашим сотрудникам потребовалось несколько лет для того, чтобы составить программы «Переместить», «Взять», «Поднять» и сотни других, которые были необходимы для создания Строителя. Мне нравится думать, что этот проект позволил нам заглянуть в детское сознание и хотя бы немного узнать о том, что происходит, когда дети учатся «играть» с простыми игрушками. При этом проект не дал ответа на вопрос, достаточно ли условной тысячи микронавыков для того, чтобы ребенок мог заполнить ведерко песком. Именно данный опыт, а не все сведения, почерпнутые из психологии, привел нас ко многим идеям относительно обществ разума.

В первых экспериментах мы сконструировали механическую руку, оснащенную датчиками давления и касания на кончиках пальцев. Затем нам пришлось подключить телевизионную камеру к нашему компьютеру и написать ряд программ, благодаря которым «Глаз» мог различать очертания кубиков. Кроме того, теперь он опознавал и саму «Руку». Когда выяснилось, что имеющегося набора программ недостаточно, мы добавили несколько программ, которые использовали чувствительность пальцев «Руки» для подтверждения визуальных впечатлений. Понадобились также программы, позволявшие компьютеру перемещать «Руку» с места на место и при помощи «Глаза» убеждаться, что на пути перемещения нет никаких препятствий. Еще пришлось составить несколько программ более высокого уровня, чтобы робот мог планировать свои действия, и тех программ, которые отслеживали выполнение намеченных планов. Чтобы все это работало как надо, требовались программы, проверявшие на каждом этапе (опять-таки, при помощи «Глаза» и «Руки») соответствие «замыслов» внутри робота фактическому объему действий – и исправлявшие ошибки, если таковые случались.

В попытках заставить нашего робота трудиться мы обнаружили, что многие повседневные задачи являются гораздо более трудными, в сравнении с теми математическими задачами, головоломками и играми, которые нередко вызывают затруднения у взрослых людей. На каждом шагу в этом мире кубиков, когда обстоятельства вынуждали нас искать подходящие решения, мы обнаруживали целую вселенную неожиданных осложнений. Возьмем, к примеру, простую, казалось бы, задачу – не использовать кубики, уже задействованные при строительстве башни. Взрослый здесь будет руководствоваться здравым смыслом: «Не следует использовать объект для достижения новой цели, если этот объект уже используется для достижения предыдущей цели». Никто не знает точно, как именно человеческий разум приходит к такому выводу. Очевидно, мы учимся на опыте распознавать ситуации, в которых возможно возникновение затруднений, и, когда вырастаем, учимся планировать заранее, дабы избегать подобных конфликтов. Но поскольку нам неизвестно, какой конкретно способ сработает, приходится вдобавок учиться справляться с неопределенностью. Какие стратегии лучше опробовать, какие из них позволят избежать наихудших ошибок? Тысячи, если не миллионы малых процессов вовлечены в реализацию наших способностей предвидеть, воображать, планировать, прогнозировать и предотвращать ошибки; однако все происходит автоматически, из-за чего мы снова и снова рассуждаем о «здравом смысле». Но если мышление настолько сложное, почему оно выглядит настолько простым? Поначалу кажется поистине невероятным, что наш разум в состоянии управлять столь сложной «машинерией» – и оставаться в неведении о ее существовании.

В целом мы почти ничего не знаем о возможностях нашего разума.

Преимущественно лишь когда другие наши системы перестают справляться, мы прибегаем к помощи особых агентов, участвующих в работе того, что принято называть «сознанием». Соответственно мы более осведомлены о простых процессах, которые сбоят, чем о сложных процессах, которые протекают безупречно. Это означает, что мы не можем доверять нашим спонтанным суждениям о том, какие операции тела и мозга являются простыми, а какие требуют сложной «машинерии». В большинстве случаев всякая часть разума только ощущает, что другие части выполняют свою работу.

2.6. Считать ли людей машинами?

Многие люди чувствуют себя уязвленными, когда человеческий разум сравнивают с компьютерными программами или машинами. Мы видели, как простой навык строительства башни из кубиков можно разложить на малые процессы. Но разве что-либо наподобие истинного разума возможно свести к подобным «малостям»?

«Смешно, – скажет большинство людей. – Уж я-то не ощущаю себя машиной!»

Но если вы не машина, откуда вам знать и как судить о том, что значит чувствовать себя машиной? Мне могут ответить: «Я мыслю, следовательно, я знаю, как работает разум». Но это подозрительно похоже на фразу: «Я вожу автомобиль, поэтому я знаю, как работает его двигатель». Знать, как чем-то пользоваться, вовсе не то же самое, что знать, как это что-то работает.

«Но всем известно, что машины могут вести себя только безжизненными, механическими способами».

Это возражение выглядит более обоснованным. В самом деле, человек вправе обижаться на сравнение с любой тривиальной машиной. Однако мне кажется, что само слово «машина» постепенно устаревает. На протяжении многих столетий слово «механический» побуждало воображать различные простые устройства вроде шкивов, рычагов, лебедок и печатных машинок. (Слово «компьютероподобный» унаследовало этот уничижительный оттенок и подразумевает выполнение скучных арифметических действий шаг за шагом.) Но мы должны признать, что находимся сейчас на заре эпохи машин и практически не имеем понятия о том, какой она будет. Допустим, некий гость с Марса прилетел миллиарды лет назад и стал делать выводы об участи населения планеты, наблюдая за скоплениями клеток, которые еще даже не научились ползать. Точно так же мы не в состоянии оценить будущие возможности машин по тому, что происходит с ними в наши дни.

Наши первые «прозрения» относительно компьютеров восходят к опытам с машинами 1940-х годов, которые состояли всего-навсего из тысяч частей. Но человеческий мозг содержит миллиарды клеток, каждая из которых сложна сама по себе и связана со многими тысячами других. Современные компьютеры представляют собой промежуточную ступень сложности; они располагают миллионами частей, и уже создаются машины с миллиардами частей для исследований в области искусственного интеллекта. Но все же, несмотря на неоспоримое развитие отрасли, мы продолжаем употреблять старые слова, как если бы не случилось вообще никаких изменений. Необходимо поменять наше отношение, приспособиться к явлению, масштаб которого превосходит всякий предыдущий опыт. Термина «машина» явно недостаточно.

Впрочем, хватит рассуждений о словах. Давайте оставим эти доводы в сторонке и вместо того попытаемся понять, какие функции выполняют тайные, неведомые механизмы нашего разума. Тогда у нас появится больше поводов гордиться тем, какими великолепными машинами мы являемся.

Глава 3

Конфликт и компромисс

3.1 Конфликт

Большинству детей нравится не только строить, но и ломать. Потому давайте вообразим себе другого агента, которого назовем Крушителем; его «специальность» сводится именно к разрушению. Наш ребенок любит слушать загадочные шумы и наблюдать, как составные предметы разлетаются на части.

Рис. 6

Предположим, Крушитель готов приступить к действиям, но поблизости ломать нечего. Тогда Крушителю понадобится чья-то помощь – например, он заставит трудиться Строителя. Но что, если спустя некоторое время, Крушитель посчитает башню из кубиков достаточно высокой для разрушения, тогда как Строитель будет хотеть сделать ее еще выше? Кто разрешит этот спор?

Простейшим решением будет оставить выбор за Крушителем, который и привлек Строителя к возведению башни. Но более реалистичное представление о сознании ребенка подсказывает, что выбор будет зависеть от многих других факторов. К примеру, допустим, что Крушитель и Строитель оба приведены в действие агентом высшего уровня «Игрок в кубики». Если Строитель и Крушитель расходятся во мнениях относительно высоты башни, налицо конфликт интересов.

Рис. 7

Чем руководствуется Игрок в кубики? Возможно, он подчиняется агенту более высокого уровня, которого назовем «Игроком». Среди операций Игрока приоритет получает игра с кубиками, в ущерб игре с куклами и игре с животными. Но даже сам Игрок, которому доступны три перечисленные операции, вынужден конкурировать с двумя другими агентами высокого уровня, чья деятельность описывается соответственно характеристиками «Есть» и «Спать». Ведь детские игры не являются изолированным, самостоятельным процессом, они всегда протекают в контексте повседневных, житейских занятий. Что бы мы ни решили делать, всегда есть занятия, которые тоже нас привлекают.

В нескольких разделах настоящей книги я буду допускать, что конфликты между агентами имеют тенденцию подниматься на более высокие уровни. Например, любой длительный конфликт между Строителем и Крушителем будет означать ослабление их вышестоящего агента Игрок в кубики. В свою очередь это уменьшит шансы Игрока в кубики победить в соперничестве Игрока в куклы и Игрока с животными. Далее, если указанный конфликт не разрешится быстро, это приведет к ослаблению высокоуровневого агента «Игрок». Тогда вместо игры ребенок выберет сон или еду.

3.2. Без компромиссов

Чтобы улаживать споры и противоречия, государства создают правовые системы, корпорации разрабатывают внутреннюю политику, а индивиды могут спорить, драться, достигать компромиссов – или обращаться за помощью к посредникам извне для разрешения конфликтных ситуаций. Но что происходит, когда конфликт возникает внутри разума?

Всякий раз, когда нескольким агентам приходится соперничать за одни и те же ресурсы, конфликт почти неизбежен. Если не уделять этим агентам внимания, конфликт может затянуться до бесконечности, что парализует агентов и не позволит никому из них добиться своей цели. Что будет дальше? Мы предполагаем, что «супервизоры» этих агентов тоже испытывают конкурентное давление и, по всей видимости, утрачивают позиции, когда их «подчиненные» не достигают поставленных целей – не важно, вследствие внутреннего конфликта или вследствие собственной слабости.

Принцип бескомпромиссности:Чем дольше внутренний конфликт между «подчиненными» того или иного агента, тем слабее положение этого агента в сравнении с его непосредственными конкурентами. Если внутренние конфликты не удается уладить быстро, другие агенты оттеснят тех, которые руководили нашими действиями ранее.

Пока игра с кубиками идет гладко, Игрок владеет ситуацией и сохраняет контроль. Между тем ребенок может начать ощущать голод или позывы ко сну, поскольку агенты «Есть» и «Спать» преследуют свои интересы. Пока желания есть или спать уступают желанию играть, Игрок первенствует в соперничестве с другими агентами. Однако любой конфликт внутри Игрока ослабит его положение и позволит еде или сну перехватить инициативу у игры. Конечно, еда или сон в итоге победят, ибо чем дольше они ждут, тем сильнее становятся.

Это несложно прочувствовать на собственном опыте. Все мы знаем, как легко справляться с малыми отвлечениями, когда дела идут хорошо. Но едва в работе возникают какие-либо затруднения, мы становимся все более нетерпеливыми и раздражительными. В конце концов оказывается настолько тяжело сосредоточиться, что малейшая помеха способна полностью отвлечь нас от текущих дел. При этом, когда любой из наших агентов лишается возможности контролировать деятельность других систем, это не означает, что он прекращает свою внутреннюю деятельность. Агент, утративший контроль, может поддерживать работу внутри себя – и таким образом готовиться к новому шансу победить в соперничестве. С другой стороны, обычно мы остаемся в неведении относительно этой «подспудной» активности в нашем сознании.

Где обрывается эта цепочка передачи или перехвата управления другими агентами? Существует ли в разуме некий верховный контролирующий центр? Не обязательно. Порой мы улаживаем конфликты, обращаясь за содействием к вышестоящим, но другие конфликты никогда не заканчиваются и не перестают нас донимать.

На первый взгляд наш принцип бескомпромиссности может показаться чрезмерно радикальным. В конце концов, хорошие управленцы заранее прилагают усилия для избегания конфликтов, а когда эта политика себя не оправдывает, они стараются снять противоречия, так сказать, локально, прежде чем обращаться к вышестоящим. Но не нужно искать близкие аналогии между деятельностью агентов низкого уровня в человеческом разуме и деятельностью членов человеческого коллектива. Крошечные ментальные агенты «знают» слишком мало для того, чтобы вести переговоры друг с другом или эффективно приспосабливаться к стороннему вмешательству. Лишь крупные структуры достаточно сложны и изобретательны, чтобы делать нечто подобное. Внутри детского разума агенты, ответственные за строительство и разрушение, в самом деле могут «договориться» между собой и оказывать друг другу поддержку в достижении целей. «Пожалуйста, Крушитель, подожди, пока Строитель добавит еще один кубик – тогда башня развалится с более громким грохотом».

3.3. Иерархии

Бюрократия (сущ.). Структура правительства, разделенная на департаменты и подразделения, где трудятся чиновники, подчиняющиеся жестким правилам.

    Словарь Уэбстера

Будучи агентом, Строитель не выполняет никаких физических действий; он просто активирует операции «Начать», «Добавить» и «Закончить». Точно так же оператор «Добавить» велит операторам «Найти», «Поместить» и «Взять» выполнить свою работу. Последний обращается к операторам «Переместить» и «Поднять». Кажется, что этот цикл никогда не закончится, что разбиение на более мелкие операции будет продолжаться бесконечно. В итоге все должно свестись к агентам, выполняющим реальную работу, но предстоит преодолеть множество этапов, прежде чем дело дойдет до мышечных агентов, которые управляют руками и суставами пальцев. Таким образом Строитель оказывается своего рода большим начальником, далеко отстоящим от тех своих подчиненных, которые производят окончательный «продукт».

Означает ли это, что «административная» деятельность Строителя не имеет значения? Вовсе нет. Агенты низкого уровня нуждаются в постоянном контроле. Ситуация во многом схожа с человеческим коллективом. Если какое-либо дело становится слишком сложным и крупным для того, чтобы с ним справлялся один человек, мы создаем организацию, в которую привлекаем нескольких агентов, не для достижения конечного результата, а для контроля деятельности ряда других агентов. Проектирование любого общества, будь то человеческое или механическое, предусматривает принятие решений наподобие следующих:

Каким агентам поручить контроль за теми, кто выполняет фактическую работу? Кто будет определять, какую работу необходимо выполнить? Кто станет устанавливать затраты времени и сил? Как будут разрешаться конфликты?