Корпорация «Бог и голем» (сборник)

Обучение есть свойство, или качество, которое мы часто приписываем исключительно системам, обладающим самосознанием, – и почти всегда живым системам. Это явление в наиболее наглядной форме наблюдается у человека и порождает один из тех атрибутов человечности, которые проще всего увязать с чертами личности, проявляющимися в религиозной жизни. В самом деле, трудно вообразить, каким образом существо, не способное к обучению, могло бы приобщиться к религии.

Имеется, впрочем, и другая сторона жизни, которую принято увязывать с религией. Считается, что Бог сотворил человека по Своему образу и подобию; при этом размножение человеческого рода также можно истолковывать как процесс, которым одно живое существо порождает другое по своему образу и подобию. В нашем стремлении восхвалять Бога, возвышая Его над человеком, и возвышать Человека над материей, мы, вполне естественно, допускаем, что машинам не под силу сотворять другие машины по своему образу и подобию; что налицо принципиальное различие живых и неживых систем; что указанное условие в еще большей степени связано с дихотомией между творцом и творением.

Но так ли это? В одном из разделов моей книги я уделю внимание некоторым соображениям, показывающим, по моему мнению, что машины вполне способны творить другие машины по своему образу и подобию. Предмет моих рассуждений одновременно является сугубо техническим и весьма узким. Не следует воспринимать мои рассуждения слишком серьезно, как описание фактической модели биологического процесса воспроизведения, и уж тем более как полную модель божественного творения; в то же время она полезна в том отношении, что проливает свет на обе эти концепции.

Два упомянутых раздела книги могут рассматриваться как дополняющие друг друга. Обучение индивида представляет собой процесс, который протекает на протяжении жизни человека, в онтогенезе. Биологическое воспроизведение есть явление, протекающее на протяжении жизни человеческого рода, в филогенезе, но обучается не только индивид, но и род в целом. Дарвиновский естественный отбор является разновидностью процесса родового обучения, он происходит в условиях, которые устанавливаются воспроизведением индивидов.

Третья группа тем данной книги также относится к проблемам обучения. Имеются в виду взаимоотношения машины и живого существа, а также систем, объединяющих в себе характеристики машин и живых существ. С учетом сказанного понятно, что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.

Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.

Есть игры, обладающие совершенной теорией и потому не представляющие для нас интереса. Примерами подобных игр служат «ним» по Бутону[6 - Американский математик Чарльз Бутон в 1902 г. опубликовал исследование математической игры, которой он дал название «ним». Суть игры заключается в том, что два игрока поочередно берут по предмету из нескольких кучек; побеждает тот, кто возьмет предпоследний предмет (игра типа «мизер»). Считается, что это древняя восточная игра – возможно, китайского происхождения. В своей работе Ч. Бутон описал тактику выигрыша для «нормального» варианта игры, когда победителем признается тот, кто берет последний предмет.] и «крестики-нолики». В этих играх мы не просто можем теоретически найти наилучшую стратегию для выигрыша; теория победы заранее известна во всех подробностях. Игроки (тот или другой, не имеет значения) всегда могут выиграть или хотя бы свести поединок к ничьей, придерживаясь вышеназванной тактики. В теории любая игра может быть сведена к подобному состоянию (эта мысль принадлежит покойному Джону фон Нейману), однако, едва игра действительно оказывается в таком состоянии, к ней мгновенно утрачивают интерес и перестают воспринимать даже как развлечение.

Всеведущее существо наподобие Бога сочло бы шахматы и шашки (а также английские draughts и континентальные dames[7 - Английские (draughts) и американские (checkers) шашки различаются лишь названием, а в остальном идентичны – по 24 шашки на доске 8х8; под континентальными (dames) шашками, вероятно, имеется в виду международный вариант шашек – 40 фигур на доске 10х10.]) примерами игр в том смысле, который обозначил фон Нейман, но человек не разработал до сих пор полной их теории, а потому они по-прежнему воспринимаются как вдохновенные состязания в интуиции и силе ума и ведутся совсем не так, как предполагала теория фон Неймана.

В самом деле – ведь обычно игра не идет по принципу: сейчас я сделаю наилучший из возможных ходов, потом мой противник сделает наилучший из возможных ходов, потом я снова отвечу наилучшим из возможных ходов, и так далее, пока кто-то не выиграет или пока игра не обернется повторением ходов. Чтобы вести игру в соответствии с постулатами фон Неймана, следует, по сути, располагать полной теорией игры, то есть свести игру к тривиальному занятию.

Пожалуй, может показаться, что тема обучения, а в особенности тема машин, которые учатся играть в игры, достаточно далека от религии. Тем не менее, существует богословская проблема, для которой эти концепции являются релевантными. Это проблема игры между Творцом и творением – предмет книги Иова и «Потерянного рая» Джона Мильтона.

В обоих этих религиозных сочинениях дьявол показывается как ведущий игру с Богом – за душу Иова или за души всех людей на свете. При этом, согласно ортодоксальным иудейским и христианским воззрениям, дьявол тоже сотворен Богом, как и все живое. Любое иное допущение ведет к моральному дуализму с привкусом зороастризма и к тому «внебрачному» отпрыску зороастризма и христианства, которое принято называть манихейством[8 - Синкретическое религиозное учение, суть которого состоит в признание равноправного существования двух начал мироздания, противоположных друг другу – Света и Мрака. Сегодня считается, что манихейство восходит к гностическим учениям на основе раннего христианства, а зороастрийский «след» на самом деле объясняется влиянием иудаизма.].

Но если дьявол есть одно из творений Бога, то игра, о которой повествуют книга Иова и «Потерянный рай», представляет собой игру между Богом и одним из Его творений. Такая игра изначально выглядит неравноправным соперничеством, в котором один игрок обладает сокрушительным перевесом. Ввязываться в игру со всемогущим и всеведущим Богом попросту глупо, однако нам говорят, что дьявол искушен в кознях. Любое восстание мятежных ангелов обречено на поражение. Не требуется бунта Сатаны, возмутившегося, как Манфред[9 - Имеется в виду герой одноименной драматической поэмы Д. Г. Байрона, который на смертном одре проклинает религию, якобы сулящую искупление грехов.], чтобы это доказать. Всемогущество же, которое для самоутверждения мечет с небес молнии, вовсе не всемогущество, а лишь некая могучая сила, следовательно, мятеж ангелов мог бы закончиться восхождением Сатаны на небесный трон и низвержением Бога в тьму вечного проклятия.

Таким образом, если мы не запутаемся в догмах всемогущества и всеведения, конфликт между Богом и дьяволом оказывается реальным конфликтом, в котором Бог выступает как нечто, не обладающее абсолютным всемогуществом. Да, Он действительно вовлекается в конфликт со Своим творением – и вполне может проиграть. Однако это творение создано Им по Его собственной воле, а значит, приобрело, по-видимому, свои способности к действиям от самого Бога. Может ли Бог вести полноценную игру со Своим творением? Способен ли вообще какой угодно творец, даже ограниченный в возможностях, вести полноценную игру с собственным творением?

Конструируя машины, с которыми он играет в игры, изобретатель присваивает себе функции творца, ограниченного в возможностях, какова бы ни была природа создаваемых им игровых устройств. Это в особенности верно применительно к игровым машинам, которые обучаются на своем опыте. Как уже отмечалось, такие машины существуют. Как они функционируют? Какого успеха они достигли?

Вместо того чтобы действовать согласно игровой теории фон Неймана, они ведут себя так, словно стараются подражать действиям обычного игрока-человека. На каждом этапе игры они подчиняются установленным правилам, которые ограничивают выбор следующего хода. Тот или иной ход выбирается согласно некоторому нормативному критерию хорошей игры.

Здесь опыт игры человека предоставляет ряд подсказок для выбора такого критерия. В шахматах или шашках обыкновенно невыгодно терять свои фигуры, зато обычно выгодно забирать фигуры противника. Игрок, сохраняющий подвижность своих фигур и право выбора ходов, как и тот, который контролирует большее число полей на доске, превосходит своего противника, не придающего значения этим факторам игры.

Данные критерии хорошей игры действуют на протяжении всей партии, но имеются и другие критерии, относящиеся к отдельным этапам игры. В финальной стадии, когда фигур на доске мало, намного труднее сблизиться с противником для «съедения» его фигур. В начале же игры – причем это куда важнее в шахматах, нежели в шашках – фигуры расположены в порядке, который лишает их подвижности и силы, а потому требуется некая тактика, позволяющая убрать фигуры с пути друг друга, как для нападения, так и для защиты. Кроме того – ведь в шахматах фигуры намного разнообразнее по сравнению с шашками, – существует множество особых критериев хорошей игры специально для шахмат, и важность их доказывается многовековым опытом.

Подобные критерии можно объединять (дополнять одним другой или комбинировать более сложным способом), чтобы оценивать в числовом выражении эффективность следующего хода, который предстоит сделать машине. Это возможно делать до известной степени произвольно. Тогда машина сравнит между собой числовые показатели эффективности возможных по правилам ходов и выберет ход с наибольшим показателем. Перед нами один из способов автоматизации выбора очередного хода.

Такая автоматизация ходов не обязательно и вообще далеко не всегда является условием оптимального выбора, но все-таки это выбор, и машина может продолжать игру. Чтобы оценить подобный способ механизации игры, следует отринуть все представления о механизации, касающиеся известных людям технических устройств, а также физический образа человека в восприятии обычного игрока. По счастью, это довольно просто; именно так ведутся игры в шахматы по переписке.

В игре по переписке один игрок посылает свой ход другому по почте, и единственной связью между игроками является письменный документ. Даже в такой игре в шахматы опытный игрок быстро составляет представление о личности своего противника – его шахматной личности, разумеется. Он узнает, насколько его противник тороплив или осторожен, легко ли его обмануть или он проницателен, способен ли изучать трюки соперника или склонен снова и снова попадаться в одну и ту же элементарную западню. Все это выясняется, повторяю, без какой-либо дополнительной коммуникации в ходе самой игры.

С этой точки зрения игрок, будь то человек или машина, который опирается в игре только на показатели эффективности, выбранные однажды и не подлежащие изменению, производит впечатление ригидной, «закосневшей» шахматной индивидуальности. Стоит обнаружить его уязвимое место, как становится понятно, что эта уязвимость неискоренима. Если некая тактика сработала против него единожды, она будет срабатывать всегда. Весьма малого количества партий вполне достаточно, чтобы выявить его манеру игры.

Пожалуй, на этом закончим с механическим игроком, который не обучается. Впрочем, ничто не мешает механическому игроку научиться играть более разумно. Для этого ему следует фиксировать в памяти прошлые партии и серии партий. Тогда после каждой игры или после каждой серии игр конкретного типа его механизм будет использоваться далее совершенно иным образом.

При составлении числовых показателей эффективности применяются некоторые константы, которые можно выбирать различными способами. Относительная значимость констант управления, подвижности фигур и их количества может выражаться, например, соотношением 10:3:2 вместо 9:4:4. Новый способ использования регулируемой машины состоит в том, чтобы изучить уже сыгранные партии с учетом их исхода и вывести числовой показатель эффективности – не для уже сыгранных партий, но для оценки критериев, выбранных для этих игр.

Тем самым числовой показатель эффективности подвергается непрерывной переоценке, причем так, что наибольшее значение присваивается показателю для преимущественно выигранных партий, а наименьшее значение – показателю для преимущественно проигранных партий. Игра будет продолжаться с этим новым числовым показателем, который возможно внедрить различными способами, отличающимися лишь в деталях. В результате игровая машина постепенно трансформируется в другую машину в соответствии с фактической историей игры. Здесь играют важную роль опыт и успех как для машины, так и для ее противника-человека.

При игре против такой машины, которая как бы перенимает часть своей игровой индивидуальности от соперника, эта игровая индивидуальность не является абсолютно ригидной. Противник может выяснить, что тактики, приводившие к успеху в прошлом, перестали быть состоятельными. Машина способна демонстрировать, так сказать, поистине сверхъестественную хитрость.

Можно, конечно, заявить, что весь этот неожиданный машинный интеллект был встроен в машину ее конструктором и программистом. В некотором смысле это верно, но не всегда будет верным предположение, будто все новые функции машины были заблаговременно и явно предусмотрены ее конструктором. Будь это так, то ему не составило бы труда одолеть собственное творение. Однако это утверждение опровергается фактической историей машины доктора Сэмюела.

Стоит признать, что в течение довольно значительного срока машина Сэмюела была в состоянии регулярно побеждать своего конструктора – всего после одного или двух дней подготовки. Но тут нужно отметить, что Сэмюел, по его собственным словам, не является опытным шашистом и что, после небольшой практики и толики наставлений, он смог обыграть собственное творение. Впрочем, ни к чему преуменьшать значение того факта, что на протяжении некоторого периода времени машина обыгрывала конструктора едва ли не постоянно. Она побеждала – и училась побеждать, а способы, которыми она обучалась, ничем принципиально не отличались от методов обучения человека, который учится играть в шашки.

Верно, что выбор тактик, доступных «шашечной» машине, почти наверняка более узок, чем выбор, открытый игроку-человеку; но верно и то, что для человека выбор эффективной тактики в игре в шашки тоже не безграничен. От бесконечности выбора человека отделяют лишь границы его интеллекта и воображения; эти границы действительно существуют и, по сути, мало чем отличаются от пределов, в которых функционируют машины.

В итоге получается, что машине, которая уже сейчас достаточно хорошо играет в шашки, нужно лишь подучить тактику действий на финальном этапе и получше освоить умение наносить coup de gr?ce[10 - Букв. «удар милосердия», завершающий удар (фр.).]; тогда она начнет приближаться к уровню мастера. Если бы не тот факт, что интерес публики к шашечным турнирам и без того существенно снизился по причине чрезмерной «предсказуемости» обычной человеческой игры, можно было бы предположить, что шашечная машина в скором времени полностью уничтожила бы интерес к этой игре. Не удивительно поэтому, что люди уже начинают спрашивать, а не постигнет ли та же самая участь и шахматы. И хотят знать, когда следует ожидать этой катастрофы.

Машины, играющие в шахматы (или такие, которые способны хотя бы провести значительную часть шахматной партии), существуют на самом деле, однако пока они играют сравнительно слабо. В лучшем случае они играют на уровне опытного игрока-любителя, не претендующего на профессионализм; вдобавок в действительности большинство из них редко достигает даже этого уровня[11 - В 1980 г. компьютер Deep Thought впервые победил шахматного гроссмейстера-человека; в 1997 г. компьютер Deep Blue выиграл матч у Г. Каспарова; в 2006 г. чемпион мира В. Крамник проиграл программе Deep Fitz.]. Это объясняется прежде всего гораздо большей сложностью шахмат в сравнении с шашками – как в отношении обилия фигур и ходов, так и в отношении разнообразия тактик на разных этапах игры. Относительно небольшое количество правил, необходимых для соблюдения при механизации игры в шашки, и малая степень различия между этапами этой игры совершенно несопоставимы с шахматами.

Тем не менее, по общему мнению тех моих друзей, которые являются довольно опытными шахматистами, дни шахмат как интересного человеческого занятия сочтены. Мои друзья ожидают, что в ближайшие годы (от десяти до двадцати пяти лет) шахматные машины достигнут гроссмейстерского уровня, а затем, если эффективные, но отчасти машиноподобные методы русской школы позволят шахматам просуществовать так долго, шахматы вообще перестанут интересовать игроков-людей.

Как бы то ни было, найдется множество других игр, которые станут бросать вызов конструкторам и программистам игровых машин. В частности, это го, дальневосточная игра, в которой различают минимум семь степеней признанного мастерства. Кроме того, война и бизнес суть конфликты, напоминающие игры, а потому они могут быть формализованы в виде игр с определенными наборами правил. В самом деле, нет ни малейших оснований предполагать, что подобные формализованные варианты до сих пор не созданы в качестве моделей, цель которых заключается в определении стратегий нажатия Большой Кнопки и сжигания планеты дотла во имя строительства нового, куда менее зависимого от человека порядка вещей.

В общем случае игровая машина может применяться для автоматического исполнения любой функции, если исполнение этой функции подчиняется достижению четко сформулированного и объективного критерия эффективности. В шашках и шахматах данный критерий заключается в победе, которая достигается при соблюдении установленных правил возможной игры. Эти правила, в корне отличные от признанных норм хорошей игры, просты и безжалостны. Даже умные дети в состоянии усвоить эти правила за время, которое требуется, чтобы их прочитать перед шахматной доской. Могут возникать сомнения относительно того, как добиться победы, однако никто не будет сомневаться в том, выиграна партия или проиграна.

Главным критерием оценки того, ощущаются ли в игре человеческие усилия, является признание существования некоего объективно выделяемого параметра эффективности этих усилий. Иначе игра превратится в подобие игры в крокет из «Алисы в Стране чудес», где шарами выступали ежи, которые постоянно распрямлялись, молотками служили фламинго, дужками были карточные солдаты, маршировавшие по полю, а судьей являлась Королева Червей, неустанно менявшая правила игры и отсылавшая игроков на обезглавливание к Палачу. В таких обстоятельствах победа не имеет смысла, а успешной тактике нельзя обучиться, поскольку критерий успеха отсутствует.

Зато при наличии объективного критерия успеха вполне возможно играть в обучающие игры, и это будет намного ближе к способу, каким мы учимся играть, чем образ игры, задаваемый теорией фон Неймана. Разумеется, технология обучающих игр подлежит применению во множестве сфер человеческой деятельности, где она пока не используется. Тем не менее, как мы увидим далее, разработка строгого теста на эффективность затрагивает целый ряд проблем, связанных с обучающими играми.

3

Обучение, о котором шла речь выше, есть обучение индивида, осуществляемое на протяжении его индивидуальной личной жизни. Существует другой тип обучения, не уступающий в значимости первому, – это филогенетическое обучение, то есть обучение через историю вида. Это тот самый тип обучения, одним из основополагающих обоснований которого стала теория естественного отбора Дарвина.

В основе естественного отбора лежат три фактора. Первый фактор – наличие такого явления, как наследственность, способность растений и животных производить потомство по образу своему и подобию. Второй фактор состоит в том, что это потомство отнюдь не целиком соответствует образу и подобию родителя, но может отличаться от последнего какими-либо признаками, тоже определяемыми наследственностью. Такова природа изменчивости, причем данное обстоятельство ни в коей мере не предполагает весьма сомнительного наследования приобретенных признаков. Третьим фактором дарвиновской эволюционной теории выступает то условие, что самопроизвольность спонтанной изменчивости ограничивается различием жизнеспособности разных мутаций, для большинства которых характерно уменьшение вероятности продолжения существования вида (впрочем, отдельные, возможно, лишь немногие мутации ведут к повышению этой вероятности).

Основа выживания и изменчивости вида – то есть эволюции – может оказаться значительно сложнее, чем описано выше; думаю, так и есть в действительности. Например, к числу важнейших типов изменчивости относится изменчивость высшего порядка, то есть изменения изменчивости. Здесь работа механизмов наследственности и изменчивости снова в немалой степени опирается на процессы, которые функционально описал еще Мендель, – а структурно они выражаются явлением митоза, то есть процессом удвоения генов и их разделения, накопления генов в хромосомах, их связывания и пр.

Тем не менее, за всем этим фантастически сложным нагромождением процессов скрывается чрезвычайно простой факт: наличие подходящей питательной среды из нуклеиновых кислот и аминокислот позволяет молекуле гена, которая состоит из весьма специфической комбинации аминокислот и нуклеиновых кислот, управлять этой средой, побуждает ту преобразовываться в другие молекулы – либо в молекулы того же гена, либо в молекулы других генов, отличающиеся сравнительно немногочисленными параметрами. Считалось, между прочим, что этот процесс строго аналогичен тому процессу, посредством которого молекула вируса, иначе молекулярного паразита, может формировать из тканей хозяина, играющих роль питательной среды, другие молекулы того же вируса. Именно сам факт молекулярной репликации, не важно, гена или вируса, видится последней стадией анализа обширного и сложного процесса воспроизводства.

Человек создает человека по своему образу и подобию. Тем самым он словно вторит акту творения, каким Бог будто бы сотворил человека по Своему образу и подобию (или использует этот акт в качестве образца). Может ли нечто аналогичное происходить в менее сложном (и, не исключено, более постижимом) случае неживой системы, которую принято называть машиной?

Что такое «образ» машины? Способен ли этот образ, воплощенный в одной машине, позволить любой машине общего назначения, не обладающей какой-либо специфической индивидуальностью, воспроизвести исходную машину либо в полном соответствии с оригиналом, либо с незначительными отличиями, которые можно было бы толковать как проявление изменчивости? Способна ли новая и отчасти измененная машина выступать «архетипом», даже при условии, что она сама отличается от собственного прообраза?

Цель текущего раздела работы заключается в том, чтобы дать ответ на эти вопросы, причем ответ утвердительный. Ценность мыслей, которые я намерен высказать – точнее, того, что уже высказывал в более техническом стиле в книге «Кибернетика» (глава IX), а здесь ограничусь кратким изложением – может быть доказана математическим понятием доказательства существования. Я собираюсь описать единственный способ, посредством которого машины могут воспроизводить себя. Не хочу сказать, что других способов воспроизводства не существует; на самом деле они есть. Кроме того, я не утверждаю, что биологическое воспроизведение осуществляется аналогичным способом – это, безусловно, не так. Но при всем несходстве способов механического и биологического воспроизводства эти процессы можно назвать параллельными, ибо они приводят к одним и тем же результатам; исследование одной категории процессов позволяет сделать выводы, релевантные для исследования другой категории процессов[12 - Схема репликации генов через расщепление двойной спирали ДНК должна по необходимости дополняться полноценным описанием динамики этого процесса, иначе процедура окажется незавершенной. – Примеч. автора.].

Чтобы обоснованно анализировать проблему сотворения машиной другой машины по своему образу и подобию, следует более пристально изучить саму концепцию образа и подобия. Нужно помнить, что образы вовсе не представляют собой некую единую категорию. Пигмалион изваял статую Галатеи по образу и подобию своего идеала возлюбленной, но затем, когда боги вдохнули жизнь в эту статую, она сделалась образом возлюбленной Пигмалиона в смысле, куда более приближенном к реальности. Статуя перестала быть сугубо зримым (умозримым) образом и превратилась в образ, так сказать, операциональный.

Копировальный станок способен воспроизвести образец модели ружейного приклада, который может быть использован для изготовления прикладов, но это объясняется просто-напросто тем, что назначение самого приклада совершенно очевидно. С другой стороны, электрическая схема может служить для реализации достаточно сложных функций, а ее образ, воспроизведенный печатной машиной при помощи металлической краски, способен функционировать самостоятельно, в точности как исходная схема. Такие печатные схемы сегодня получили широкое применение в различных областях современного машиностроения.