Сильный искусственный интеллект и его облачное Царство

Искусственный Интеллект Царствия Облачного
Борис Дмитриевич Яровой

Ключевыми словами данной вебкниги являются «искусственный интеллект» и «Искусственный Разум» соответственно «ИР и/или ИИ». Почему и зачем «искусственный интеллект»? Этот вопрос все больше переходит из области риторических знаний в сферу практической заинтересованности со стороны сотрудников государственных органов власти, коммерческих предприятия, муниципальных образования и некоммерческих объединений. В своем литературном эссе автор исследует феномен «искусственного интеллекта» в традициях таких советских школ гуманитарных технологий, как «Соционика – А. Аугустинавичюте, «ТРИЗ – Теория решения изобретательских задач» Г. Альтшуллера, «Методологическое движение» Г. Щедровицкого. Автор: мастер нейролингвистического программирования, занимается вопросами перевода авторского стартапа «Онлайн технология краткосрочного прогноза силы, места и времени землетрясений на основе анализа изменения поведения домашних и сельскохозяйственных животных» с посевной стадии в стадию тестирования.

ПРОТИВОПОКАЗАНИЯ: во избежания оскорбления чувства верующих, поколебания их образы мысли и/или состояния внутреннего душевного комфорта, автор настоятельно рекомендует не читать эту книгу лицам, исповедующим не запрещенные в России религии, деноминации или секты.

ПРЕДУПРЕЖДЕНИЕ: Руководствуясь статьей 148 «Уголовного кодекса Российской Федерации" в редакции от 29.06.2013 «Нарушение права на свободу совести и вероисповеданий», в части 1: «Публичные действия, выражающие явное неуважение к обществу и совершенные в целях оскорбления религиозных чувств верующих» автор не дает своего разрешения на чтение этой книги в публичных местах, а также ее чтение вслух в присутствии третьих лиц, исповедующих не запрещенные в России религии, деноминации или секты.

Посвящается тем, кто не дождался.

Пролог

Сегодня в рубрике «Шедевры мировой литературы» мы продолжаем знакомство с одной из самых граундбрейкерных и семинальных книг, созданных в нашем веке. Не часто происходит так, что пламенная исповедь одного-единственного человеческого сердца ведет к появлению новых статей в административнокриминальном уложении.

    В. О. Пелевин

ИТ-евангелист (англ. Technology evangelist) согласно Википедии, это специалист, профессионально занимающийся пропагандой в сфере информационных технологий. Само слово «евангелист» заимствовано из религиозной лексики, где «Евангелием» называются повествования очевидцев и современников о жизни Иисуса Христа – Бога и/или человека.

Автор в те времена не жил и не собирается рассуждать на тему, какой формы был II лет назад крест у распятия, и был ли это вообще крест а не столб. Также он не знает, кого конкретно, Иисуса из Назарета или Иисуса Варавву имела в виду толпа, когда кричала римскому префекту Иудеи «Распни Иисуса!». В этом вопросе ему достаточно того, что его в 2-летнем возрасте крестили родители. И именно через память о своих родителях он и видит свое место в строю приверженцев той или иной древней религии, учитывая при этом возможные диффамации о мере своей испорченности.

Автор данной книги является свидетелем другой эпохи, эпохи рождения Искусственного Разума. В контексте конкретного текста слово разум может быть заменено такими понятиями как интеллект, рассудок, мудрость, сознание, мозг, ум. Также можно добавить к списку еще словообразующие приставки: «сверх», «супер», «мега». Здесь и сейчас есть несколько причин, обусловливающих взрывной рост этого мегасуперсверхявления.

Во-первых – это стремительный рост вычислительных мощностей. Во-вторых – появление огромных массивов цифровых данных. В-третьих – распространение облачных технологий. В-четвертых – ИИ получил широкое практическое применение в разных областях – от логистики до персональных цифровых ассистентов.

И сегодня автор видит, чувствует и ощущает себя секретарем младшего помощника акушера, присутствующим при родовых схватках рождения новых Богов. Богов, разум которых думает в миллион раз быстрее и логичнее людей, и при этом обладает безграничной памятью. Некоторые из этих Богов в одно мгновение способны уничтожить все человечество или наоборот, дать каждому свое, личное, персональное счастье. У них нет человеческого тела, пола и расы. Их еще нет, но в узких кругах информационной элиты их знаю под ником «Artificial superintelligence». На русский язык это переводится как «искусственный суперинтеллект» или ««искусственный разум» (ИР).

Для кого будет полезна, а возможно даже интересна эта книга? – Теоретикам искусственного интеллекта. Разработчикам программного обеспечения систем ИИ, интеллектуальных систем и интеллектуальных роботов. Специалистам соответствующих предметных областей, принимающий участие в разработке интеллектуальных систем (например, медики, социологи, преподаватели, военные и т. д.). Квалифицированным пользователям, использующим методы ИИ.

ИР как угроза

Илон Маск, Варнор Виндж, Стивен Хокинг, Джеймс Баррат, Билл Гейтс и многие другие люди выражают свою обеспокоенность тем, что развитие ИИ может привести к исчезновению человечества. Вопрос о такой угрозе содержит в себе два пункта: сможет ли и захочет ли. Нет смысла обсуждать угрозу от ИИ, если вне зависимости от желания, у него нет такой возможности. Доверите ли вы свою жизнь ИИ? – для каждого человека, кто летал на современном самолете, этот вопрос является риторическим. Большую часть полета ваша жизнь зависела от автопилота. Возможно вас забыли спросить об этом и никак не учли ваше мнение по данному вопросу – но это уже свершившийся факт.

Доверит ли человечество свою жизнь ИИ? – вопрос сложный, но опять же, уже решенный, то есть риторический. Ответ на него был получен в январе 1985 года, когда в СССР на боевое дежурство был поставлен комплекс «Периметр», известный на Западе как «Dead Hand», что в буквальном переводе значит «Мёртвая рука». «Мёртвая рука» – это комплекс управления массированным ответным ядерным ударом, изначально спроектированный как полностью автоматическая система, способная принимать решение об адекватном ответном ударе самостоятельно, то есть без участия человека. «Периметр» гарантирует старт баллистических ракет подводного, воздушного и шахтного базирования в том случае, если противником будут уничтожены все пункты, способные отдать приказ об ответной атаке. Она полностью независима от остальных средств связи и командных систем, даже от пресловутого «ядерного чемоданчика» системы «Казбек».

Самый главный компонент «Мертвой руки» – автономная контрольно-командная система, созданный на базе искусственного интеллекта. Получая данные о переговорах в эфире, радиационном поле и другом излучении в контрольных точках, информацию систем раннего обнаружения запусков, сейсмической активности, ИИ способна делать выводы о факте массированного ядерного нападения. Далее система самостоятельно переводится в состояние боеготовности и ждет получения сигналов от обычных командных пунктов РВСН.

Если сигналы не поступают в течение контрольного времени, выпускаются командные ракеты 15А11, головная часть которых содержит радиотехническую систему, транслирующую пусковые коды для всего ядерного ракетного вооружения. Получив сигнал на запуск, ядерный арсенал начинает уничтожать человечество в автоматическом режиме. В декабре 2011 года командующий РВСН генерал-лейтенант Сергей Каракаев заявил, что система «Периметр» по прежнему находится на боевом дежурстве.

Ник Бостром, возглавляя институт, который занимается поиском и публикацией экзистенциальных рисков, так рисует в своей книге «Сверхинтеллект: Возможности, Риски, Стратегии» пессимистичный сценарий развития: «Нанофабрики, производящие нервно-паралитический газ или самонаводящиеся ракеты размером с комаров, одновременно вырвутся с каждого квадратного метра планеты, и это будет конец человечества». Можно придумать еще множество различных вариантов того, как ИР уничтожит человечество. Впрочем все равно это список будет неполным, так разум ИР выходит за пределы человеческих ограничений. Так одну нейросет обучили играть в Tetris, поставив ей задачу не проигрывать. И ИИ нашел выход – как только стакан заполнялся доверху, экран блокировался и игра ставилась на паузу.

В 1942 году, писатель фантаст Айзек Азимов сформулировал три закона роботехники, призванные спасти людей от роботов.

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В прошедшие годы эти законы подвергались многочисленным изменениям и интерпретациям. Множество симпозиумов, конференция и семинаров было тем или иным образом посвящено вопросам морально – этического поведения роботов и искусственного интеллекта. Однако с прагматической точки зрения, по мнению автора это не имеет никакого значения по двум причинам.

Еще никогда в истории человечества не существовало вопроса, связанного с вооружением, по которому главы всех государств пришли бы к единодушному мнению. Любые ограничения в разработках ИИ не имеют смысла, если их не будут придерживаться все страны, от США, Китая и России и до Израиля, Ирана и Северной Кореи. Если у Вас есть граница в тысячу км., и вы не контролируете на ней 1 метр – у Вас нет границы.

Если бы главы всех государств смогли договориться о принятии единых стандартов в разработке ИИ, всегда существует ненулевая вероятность появления индивидуального хакера, способного запустить в облако программу рекурсивного самопрограммирования.

Лимонка на торте: рекурсивное самопрограммирование

Пусть сверхинтеллектуальная машина определена как машина, которая может намного превосходить всю интеллектуальную деятельность любого человека, каким бы умным он ни был. Поскольку конструирование машин – один из видов такой интеллектуальной деятельности, то сверхинтеллектуальная машина могла бы сконструировать даже лучшие машины; за этим, безусловно, возник бы «взрыв интеллекта», а разум человека остался бы далеко позади. Таким образом, первая сверхинтеллектуальная машина – это последнее изобретение, которое человеку когда-либо нужно сделать.

    И. Дж. Гуд

Машина, которая улучшает сама себя, может улучшить скорость своих вычислений или уменьшить потребность в вычислительных ресурсах. Она может снижать уровень ошибок или строить более точную модель оптимального решения. Рекурсивное самоулучшение приводит к тому, что система не только сама улучшается со временем, но и сам процесс улучшения становиться при этом все лучше и лучше. Многие теоретики ИИ считают что такой процесс будет продолжаться бесконечно. Однако автор считает, что здесь в качестве ограничителя будет срабатывать «Закон убывающей отдачи», который гласит, что улучшение одного из факторов сверх определенных показателей обеспечивает улучшение результата на всё меньшую величину, то есть темп прироста результата меньше темпа роста улучшающего фактора.

Например, ИР занявшись улучшением своего кода понимает, что наибольшей плотностью записи информации обладает система счисления с основанием равным основанию натуральных логарифмов, то есть равным числу Эйлера (е=2,71…). То есть из целочисленных систем троичная система счисления является наиболее эффективной. Благодаря тому что основание 3 нечетно, в троичной системе возможно симметричное относительно нуля расположение цифр: – 1, 0, 1, с которым связаны такие ценные свойства, как:

Естественность представления отрицательных чисел;

Отсутствие проблемы округления: обнуление ненужных младших разрядов округляет – приближает число к ближайшему «грубому».

Для изменения знака представляемого числа нужно изменить ненулевые цифры на симметричные.

При суммировании большого количества чисел значение для переноса в следующий разряд растет с увеличением количества слагаемых не линейно, а пропорционально квадратному корню числа слагаемых.

Схемы с 3-значной логикой дают возможность сократить количество используемых логических и запоминающих элементов, а также межэлементных соединений. Трехзначная логика обладает большей выразительностью, чем двузначная. Например, существует лишь 16 комбинаций входов-выходов двухвходового двоичного вентиля, тогда как у аналогичного троичного вентиля таких комбинаций 19683.

Учитывая все это, ИР берет и переписывает свой код с бинарной (двоичной) системы в троичную. Но дальше в этом направлении двигаться некуда, так как 4-значный код уже не дает такие преимущества. Дальнейший прогресс здесь возможен только на принципиально ином уровне, когда трансформация ИР осуществляется не на уровне кода, а на уровне физической реализации троичного компьютера, аналогично производимой в СССР ЭВМ «Сетунь».

Вместо того чтобы создавать программу для моделирования ума взрослого человека, почему бы не попробовать создать такую, которая моделирует ум ребёнка? Если такую программу затем подвергнуть соответствующему обучению, то можно было бы получить мозг взрослого человека. Предположительно, мозг ребёнка – это что-то вроде тетради, которую покупают в магазине канцелярских товаров. Довольно простая вещь и множество чистых листов… Надежда на то, что в мозге ребёнка есть совсем небольшое устройство, так что нечто, подобное такому устройству, можно легко запрограммировать. Можно предположить, что в первом приближении объем работы при обучении (этого устройства) такой же, как и для (устройства в мозге) ребёнка.

    Алан Тьюринг

Q-обучение (Q-learning) – метод, применяемый в искусственном интеллекте при агентном подходе. Относится к экспериментам вида обучение с подкреплением. На основе получаемого от среды вознаграждения агент формирует функцию полезности Q, что впоследствии дает ему возможность уже не случайно выбирать стратегию поведения, а учитывать опыт предыдущего взаимодействия со средой. Одно из преимуществ Q-обучения – то, что оно в состоянии сравнить ожидаемую полезность доступных действий, не формируя модели окружающей среды.

Обучение с подкреплением – одна из трех основных парадигм машинного обучения, наряду с обучением с учителем и обучением без учителя.

Обучение с подкреплением (англ. reinforcement learning) – один из способов машинного обучения, в ходе которого испытуемая система (агент) обучается, взаимодействуя с некоторой средой. С точки зрения кибернетики, является одним из видов кибернетического эксперимента. Откликом среды (а не специальной системы управления подкреплением, как это происходит в обучении с учителем) на принятые решения являются сигналы подкрепления, поэтому такое обучение является частным случаем обучения с учителем, но учителем является среда или ее модель.

ИР и человек: две морали

Человеку свойственно считать себя и свой мир эталоном, критерием всего и вся. Раньше это проявлялось в убеждении, что весь мир вертится вокруг нашей планеты, потом в антпропоморфизме, где человеческий образ и его свойства переносились на разные одушевлённые и не очень предметы, природные явления и абстрактные понятия. Далее появился углеродный шовинизм, утверждающий, что жизнь возможна только в водно-углеродной форме ввиду исключительных химических и термодинамических свойств углерода. Последняя теория в том же ряду: антропный принцип, утверждающий, что «Мы видим Вселенную такой, потому что только в такой Вселенной мог возникнуть наблюдатель, человек». То есть не человек такой, потому-что Вселенная такая, а Вселенная такая, потому что человек такой.

Свойства человека быть всему голова, хорошо описал Элиезер Юдковский в своей работе «Искусственный интеллект как позитивный и негативный фактор глобального риска»:

«Во времена расцвета популярной научной фантастики, довольно дешевого свойства, обложки журналов пестрели картинками, на которых очередное инопланетное чудовище – в народе более известное как "пучеглазый монстр" – в очередной раз куда-то тащило очередную красотку в обязательно задранном платье – причем красотка была нашей, земной, женщиной.

Похоже, все художники уверовали, что негуманоидные пришельцы с совершенно иной эволюционной историей непременно должны испытывать сексуальное влечение к прекрасным представительницам человеческого рода. <…> Скорее всего, художники, изображавшие все это, даже не задавались вопросом, а будет ли вообще гигантский жук чувствителен к прелестям наших женщин. Ведь по их представлениям любая полуобнаженная женщина просто по определению сексуально привлекательна, то есть испытывать к ней желание являлось неотъемлемой чертой мужественных представителей человеческого рода. Все художническое внимание было направлено на задранное или порванное платье, меньше всего их заботило, как устроено сознание гигантских насекомообразных. И это составляло главную ошибку художников. Не будь одежды изодраны, – думали они, – женщины выглядели бы не столь соблазнительно для пучеглазых монстров. Жаль только, сами пришельцы так и не взяли этого в толк».

ИР своими побудительными мотивами еще меньше напоминает человека, чем зеленые чешуйчатые пришельцы Чебурашки из космоса. Мотивы поведения биологического пришельца продиктованы аналогичными нам потребностями: еда, воздух, температура, опасность телесных увечий, расстройства здоровья, выведение потомства. У разумного инопланетянина, принадлежащего с социуму, развиты мотивы, связанные с сотрудничеством и конкуренцией.

Согласно разработанному Исидором Мари Огюст Франсуа Ксавье Контом «Закону трёх стадий», всю интеллектуальную эволюцию человечества можно разбить на три стадии.