Тест Тьюринга

– Нет. К тому, на чем мы остановились!.. Двигаться будем постепенно. Значит, вполне можно, как мы выяснили, не понимая, что такое плазма, добывать огонь и им пользоваться. Правильно? Люди пользовались электричеством задолго до того, как открыли электроны. Да что там – мы вполне себе уверенно пользуемся собственным сознанием, не зная, что это такое! Поэтому нет ничего удивительного в том, что люди успешно строят искусственный интеллект, не зная, что такое мышление и сознание. И до сих пор спорят, сознание и интеллект – это одно и то же или нет.

– Да? – Я снова сунул ложку в банку. Какие же вкусные эти глюкозные ягодки! – Какая ваша мама молодец!

– Спасибо. Я передам ей благодарность от полицейского департамента Нью-Йорка в лице его лучших представителей… Да. Спорят. Хотя по мне, спорить тут не о чем: интеллект – это просто вычислительные способности. Электронная машина просто считает, считает, считает и выдает результат. Как арифмометр. Результатом этих подсчетов является, например, выигрыш у чемпиона мира по шахматам. Второй. Третий. Сотый. Каждый раз выигрывает!.. Между тем, шахматы – признанная интеллектуальная игра! И машина теперь умнее человека, потому что его обыгрывает. Просто просчитывая варианты. Но то, что мозг считает цифры хуже машины, не делает его менее думающим, чем машина, а машину не делает сознательной – потому что теоретически можно было бы сделать стальной арифмометр с шестеренками, упрощенно говоря, и он бы решал ту же задачу игры в шахматы, только очень долго и был бы очень большим.

– Допустим. Скорее всего так. Не знаю.

– Но вы точно знаете другое – железный арифмометр, даже огромный, не имеет сознания. Это просто железка.

– Сто пудов!

Почему-то Андрей развеселился. Повторил:

– «Сто пудов!» Очень русское выражение. «Сто пудов!» В общем, наш мозг может считать, но делает он это похуже машин. Да и всегда делал не очень хорошо, ему для этого требовались подручные предметы – счеты, логарифмические линейки или, на худой конец, карандаш с бумажкой. Столбиком делили в школе?

– Был грех.

– Вот. Прямое вычисление мозгу дается трудно. Зато мозг делает кое-что получше машины. Он производит сознание! То есть формирует вокруг себя живую картинку внешнего мира, а сам помещается в его центре. Понимаете, о чем я говорю?

– Знаете, я не всегда был полицейским… Это просто жизнь меня так опустила, что я бегаю с пистолетом и людей убиваю. Но раньше, в этой стране, – я обвел пальцем вокруг головы, – я имел другую профессию и другое образование. И читал другие книги. Точнее, просто читал книги. Сейчас-то книги куда-то испарились из моей жизни, но кое-что из прошлого память держит… И среди этих книг, которые мы на кафедре передавали друг другу…

– На кафедре? А вы что заканчивали? – живо заинтересовался Фридман.

– А вам Джейн не сказала? Мы с ней об этом говорили. Институт стали и сплавов. Физико-химический факультет. Я какое-то время работал на кафедре рентгенографии в одном НИИ, чуть не защитился, но… Короче, мы там очень увлекались книгами профессора Назаретяна. Был такой специалист в области универсальной эволюции…

– То, что раньше называлось синергетикой, – блеснул эрудицией Фридман.

– Да, возможно. Не знаю… Так вот, он писал, помнится, что сознание – это феномен отражения. В материальном мире отражение есть всегда. Просто на физическом уровне отражение – это, например, оптика: угол падения равен углу отражения. Зеркало. На молекулярно-биологическом – удвоение ДНК. Тоже ведь отражение! А на психическом – сознание. Сознание – это отражение внешнего мира сложно организованной материей мозга. И чем сложнее машинка – тем сложнее у нее получается отражать мир. Отражение усложняется в результате эволюции вместе с материей! У примитивно устроенного зеркала – это обычное отражение света от поверхности. У червяка – простые реакции на какие-то внешние раздражители. А у мозга – целое сознание! Так учил Назаретян.

Андрей, который, кивая, спокойно слушал меня, хмыкнул и раздумчиво пожевал губами:

– Да, я тоже читал все это. Но Назаретян – философ. Мы уважаем философов. Но не любим. Хотя с философской точки зрения он прав, конечно. Да, сознание есть отражение в философском смысле, кто спорит. Иллюзия. Хотя это ни черта не объясняет сам феномен сознания, его природу.

– Почему? – удивился я.

– Ну как, почему… Ну, то есть «внешне» как бы и объясняет! Я вот могу с помощью такого объяснения понять, что такое ваше сознание. Вы отражаете окружающий мир, чтобы в нем ориентироваться, найти добычу и самку. Но свое сознание сам себе я объяснить уже не могу! Ведь я не просто тупо отражаю мир и в соответствии с этим на него как-то реагирую. Отражать и реагировать можно ведь и в «полной темноте». Играть в шахматы и заниматься интеллектуальной работой можно, как мы видели, вообще без сознания – именно так работают арифмометр или компьютер… Но я-то осознаю себя и вижу вокруг картинку – цветной мир! Ярчайшая иллюзия! А вот вычислительных процессов моего мозга, которые эту картинку обеспечивают, я как раз не вижу! Не знаю, не представляю даже, как ему это удается… Так же, как я не вижу работы своей печени, например, которая обеспечивает мою жизнедеятельность. Или поджелудочной… Селезенки… Оно там само как-то, автоматически, без меня. А я только пользуюсь.

– То есть вы хотите сказать, – я пытался не потерять ход его мысли, – что есть процессы физические, а есть….

– Да! Именно! И физические процессы не мыслят!.. А есть мое понимание, понимаете? Я понимаю! Что такое понимание, осознание, ощущение? В реальном физическом мире ведь нет красного, шумного, болезненного… Это все лишь мои ощущения. То есть мой внутренний мир – это мир ощущений! И весь внешний мир тоже представлен для меня только в моих ощущениях! Никак иначе. Поэтому он весь помещается внутри меня. А «снаружи», в реальности – просто электромагнитная волна отражается вот от этой сахарницы в определенном диапазоне, который я воспринимаю как «красное». А дальтоник – как «зеленое». А собака с черно-белым зрением – как оттенок серого, наверное. Но мир собаки – это не мой мир. И вообще, если отъехать к физике, к квантовой механике, то…

– Давайте туда не будем ехать! – взмолился я. – Я понял вашу мысль, мне хватит, я забыл всю физику… Сознание – это мое восприятие, ощущения и самоощущение. А компьютер, – я кивнул на его ноутбук, – его не имеет. Все!

– Не имеет. Откуда ему его взять? Компьютеры – и даже суперкомпьютеры, которые выигрывают в шахматы у чемпионов, – всего лишь работают по алгоритмам и заточены под определенную задачу – например, играть в шахматы. В этом они превосходят человека, но отстают по другим параметрам. В том числе и по вычислительным возможностям, как ни странно, потому что мозг обрабатывает такое количество информации, управляя нашим телом и ориентируясь в пространстве… Бездну информации! И главное, у него есть чем! У нас нейронов в мозге 80 миллиардов, да еще столько же астроцитов, это такие вспомогательные клетки, которые, тем не менее, тоже принимают активное участие в передаче сигналов. И все это связано проводами аксонов. Каждый нейрон имеет десятки тысяч связей с другими клетками!.. И если мы хотим смоделировать мозг с помощью машины, у нее должна быть похожая архитектура. Вы слышали про нейросети?

– Да. Но не особо вникая, честно говоря… – Я все еще не понимал, куда он клонит.

– И не надо особо вникать! Просто для понимания: это принципиально другая архитектура, и нейросети нужно обучать, а не программировать… То есть они как бы программируют себя сами, ориентируясь на ответные сигналы из среды, как это делает мозг.

– Так… Я правильно понял – вы мечтаете построить такой нейросетевой сверх-супер-пупер-компьютер, чтобы в нем был не только простой счетный интеллект по заданному вами алгоритму, но и сознание – хотя мы и не знаем, что такое сознание? И на это тратите деньги налогоплательщиков? – радушно и приветливо улыбнулся я, отложив наконец чайную ложечку.

Фридман не улыбнулся мне в ответ.

– Мы уже его построили.

Это была третья кружка каленого, горяченного чая, который налил мне из клокочущего пластмассового электрочайника Фридман. Я не отказался, хотя за время жизни в Америке больше привык к кофе. Или мне только казалось, что привык, потому как ни разу за время пребывания в России меня к кофе не потянуло. А вот чаю я выпил уже преизрядное количество! И, судя по всему, до конца поездки выпью еще несколько ведер. Говорят, в чае кофеина даже больше, чем в кофе. Но мне главное – удерживаться от сахара. Если уж от варенья удержаться не получилось…

Смех смехом, но на сладкое я и вправду зря налегаю. Хотя, говорят, сахар помогает мозгам думать. А думать мне сейчас было над чем. Мы говорили с Андреем уже почти час, а я так и не добрался до сути своего визита. Но перебивать Фридмана мне не хотелось. Он рассказывал вещи, которые меня всегда интересовали – по меньшей мере, пока я жил тут. Америка, правда, подстерла своей суетой все прежние интересы – не до того стало. Но теперь, вернувшись на родную когда-то почву, я вновь с любопытством слушал своего собеседника, возбужденно поблескивающего очками. Он, кажется, начал подбираться к цели нашей встречи.

– …вот так примерно работает вычислительный автомат, – рисовал мне на бумажке какие-то схемы Фридман. В которых я давно уже запутался, но виду не подавал, делая серьезное лицо и усиленно кивая. – Это называется еще машиной Тьюринга, был такой английский…

– Я знаю.

– Отлично. Его машина – версия конечного автомата… Ну, не важно, мы не будет углубляться особо в детали. Тут важно только, что этот автомат не может мыслить – ему нечем. И когда люди это поняли, они задумались и решили делать машины по примеру мозга – имитируя нейросети. И не программировать эти нейросети, а обучать, как это делает мозг, обучаясь, то есть самопрограммируясь. Ну, мы об этом уже говорили…

Фридман поднял палец, привлекая мое внимание. Но оно и так было в тонусе. Я упорно следил за его мыслью в меру своего ограниченного понимания.

– Но смотрите теперь, какая ужасная вещь. Ведь мозг – тоже машина, только биологическая. Машина не мыслит. Значит, и мозг, получается, не может мыслить? Да и чему там мыслить-то? Ведь в клетках просто идут химические реакции, сложные, конечно, но там всего-навсего производятся высокомолекулярные соединения. Творится химия – кислород присобачился там к углероду, например… Электрические сигналы, вещества разные передаются туда-сюда по аксонам. Сплошная биохимия, которая не мыслит! Нейрон – это просто клетка, такая же, как все наши остальные клетки – у нее есть ядро, цитоплазма, белки, клеточные органеллы… Каждый отдельный нейрон не мыслит, он просто работает как живая клетка, как маленькая биохимическая фабрика. А мышление, оно висит над нейронами! Оно как бы совокупность всех сигналов сразу. Понимаете?

– Чай, не дурачок. Хотя все эти рассуждения о конечных автоматах, признаться, не очень понял.

– Да и неважно!.. Важно, что мы можем сымитировать нейросеть, можем заставить машину учиться, то есть самопрограммироваться, как мозг. Но будет ли она при этом думать и понимать – вот вопрос! Будет ли у нее сознание?

– Понятия не имею. И как узнать?

– Вот! – возбужденно воскликнул Фридман. – Сейчас мы к этому перейдем… Вы варенье-то берите.

– Я беру. Уже полбанки забрал, – я снова потянулся ложкой к блюдцу с горкой блестящих глянцевых ягод янтарного цвета. Что же я делаю-то? Это же какая-то катастрофа!

Андрей вскочил и прошелся по кабинету, видно было, что он возбужден рассказом и размышлениями. А я сидел и был спокоен – я просто умел слушать, и это тоже профессиональная черта журналистов и полицейских детективов.

– Мы не знаем, что такое сознание и мышление по существу своему. Но мы знаем одну приметную черту сознания – самоосознание, то есть выделение себя из окружающего мира. Верно?

– Видимо, так, – задумался я. Мысль мне понравилась. – Если нет выделения себя, то о каком сознании может идти речь? Если существо не выделяет себя из мира, то его и нету, считай. А если выделяет, активно стремится сохранить себя, значит, оно себя осознает!

– Отлично! Осознание и есть самовыделение! Ощущение себя, ощущение себя личностью. Но откуда берется это ощущение? Как оно формируется? Человек ведь рождается пустой флешкой. Ну, ладно, отформатированной флешкой! Генами отформатированной, с определенной способностью записать на себе информацию. И вот сразу после рождения личность начинает на эту пустую отформатированную генами флешку как-то прописываться. Как?

– Постепенно. Обучением. Воспитанием. Мама-папа. Программы: это не делай, так не поступай, это плохо, ремешком по заднице получишь. Психологические паттерны, как говорит Джейн, – сказал я, слегка недоумевая: почему мы пошли по второму кругу? Про обучение мы ведь уже говорили…

– Да, обучение! Но личность – это то, что отличает один субъект от другого. – Фридман подчеркнул интонацией слова «личность» и «отличает». – Русский язык прямо показывает связь этих слов! Личность – то, что отличает нас от себе подобных! Иными словами, личность, то есть отличия, у нас формируются в общении с себе подобными, схожими субъектами. Родители нас воспитывают и учат, учителя, другие люди, сверстники, телевидение, интернет, улица… В общем, мы как детали по время галтовки – тремся друг о друга и об абразив жизни и тем самым формируемся.

– Мне это в голову не приходило, конечно, но, наверное, вы правы, – снова согласился я. – Если бы, например, мои отец с матерью не расстались, у меня была бы другая биография и я, как личность, по-другому бы сформировался. Другая биография, другая страна проживания, другая жена была бы – с Леной мы просто не встретились бы, потому что… Была бы совсем другая личность – с другой судьбой! Это даже, я бы сказал, тривиально.

– Не тривиально! Вы не поняли. Тут важно не то, что вы сформировались бы другим человеком, правда, с той же телесной базой, которая определяется генным «форматированием», а то, что личность вообще, то есть способность отличать себя от других, иными словами, само сознание не может сформироваться вне контакта с себе подобными!

– Маугли! – вдруг вспомнил я. – Дети, воспитанные животными, если они не попали к людям до определенного возраста, так и остаются животными – волком в теле человека. Носитель у него отформатирован, как вы это называете, по-человечески, в смысле, телесно он человек, но сознанием это волк. У него личность волка.

– Ну-у-у, – с сомнением протянул Фридман. Видимо, его такой простой найденный мною пример не вдохновил. – Да, так тоже можно сказать. Хотя это, наверное, упрощение. А может, как раз и не упрощение, а самая суть… Я как-то с другой стороны к этой мысли пришел… В общем, только отношения с себе подобными нас формируют путем взаимообучения. А у суперкомпьютера, который стоит один в темном зале, потому что ему даже свет не нужен, откуда возьмутся «себе подобные»? Таких машин вообще по пальцам в мире… А таких, какую мы создали, – вообще нет. Мы начали экспериментировать с квантовыми кубитами. Впрочем, вы просили квантовую механику объехать стороной… Но суть в том, что наша машина…