Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин

Пролог

Эпоха мыслящих машин

«Никакой это не звездный крейсер “Галактика”. Это разрушение Рима в чистом виде!»

    Дэвид Гункель[3 - См. Gunkel, D. (2018) Robot Rights, Cambridge, MA: The MIT Press, p. ix.]

«Самым печальным аспектом современной жизни является то, что наука накапливает знания быстрее, чем общество приобретает мудрость».

    Айзек Азимов[4 - См. Asimov, I. and Shulman, J.A. (1988) Asimov's Book of Science and Nature Quotations, New York: Grove Press.]

Бурлящий поток энтузиазма по поводу роботов и искусственного интеллекта изливает на нас множество технических подробностей о том, как новая индустриальная революция изменит нашу жизнь. Нужно ли добавлять, что никто не может сказать точно, будет ли очередное преобразование благоприятным или неблагоприятным для человечества. То, что я узнал от компьютерных специалистов, представляет собой смесь двух совершенно разных взглядов: во-первых, это идея о том, что всем нам в будущем угрожают сущие кошмары, включая бедность, потерю самоуважения или даже полное уничтожение человеческой расы, когда разумные, но бесчеловечные роботы – плод нашего собственного интеллекта – захватят власть на планете; во-вторых, это утопическая мечта о том, что нынешняя технологическая революция освободит человечество от тяжелой работы и сделает нас всех богатыми, как Крез.

Рассматривая возможные последствия использования роботов и искусственного интеллекта, многие писатели, обладающие достаточными техническими знаниями, всерьез погружались в изучение макроэкономики и государственной политики. Возьмем, к примеру, слова мыслителя Калума Чейза, долгое время размышлявшего над проблемами искусственного интеллекта:

«…поскольку машины будут эффективнее людей, которых они заменили, и в особенности, поскольку они продолжат совершенствоваться с экспоненциальной скоростью. Но по мере того, как все больше и больше людей станут безработными, последующее падение спроса превысит снижение цен, вызванное [возросшей технологической] продуктивностью. Экономический спад практически неизбежен, и он грозит стать настолько серьезным, что необходимо будет что-то с этим сделать»[5 - См. Chace, C. (2016) The Economic Singularity, London: Three Cs Publishing, p. 208.].

Похожие взгляды были сформулированы ведущими предпринимателями в сфере технологий, включая Билла Гейтса, основателя Microsoft, и целым рядом выдающихся ученых, включая покойного сэра Стивена Хокинга, знаменитого исследователя черных дыр[6 - Билл Гейтс заявил по этому поводу следующее: «Сразу во многих видах занятости мы сейчас переступили тот порог, за которым человеческий труд необратимо сменится автоматизированным». И далее: «Результатом может стать одновременное искоренение целых крупных направлений работы, включая складские работы, вождение автомобиля, уборку помещений». Процитировано в газете The Financial Times 25/26 февраля 2017 г. Покойный сэр Стивен Хокинг замечает в том же духе: «Если машины производят все, что нам нужно, результат будет зависеть от того, как вещи будут распределяться. Каждый смог бы наслаждаться роскошной жизнью в свободное время, если справедливо разделить богатство, произведенное машинами; с другой стороны, большинству людей угрожает страшная нищета, если владельцы машин станут успешно лоббировать законы, противодействующие разумному перераспределения богатства. Пока что, похоже, наблюдается тенденция ко второму варианту, при котором развитие технологий приводит к постоянно растущему неравенству». Процитировано у Барри Браунстайна (Barry Brownstein) в программе «CapX» 21 марта 2018 г.].

Тем не менее целый ряд прагматически настроенных специалистов (по общему признанию, в основном из числа экспертов по искусственному интеллекту), похоже, уверены в том, что угрозы подобного рода явно преувеличены. Экономические и социальные изменения, с которыми мы сталкиваемся (и столкнемся в будущем) в результате распространения роботов и искусственного интеллекта, либо ничем не примечательны, либо окажутся продолжением того, что мы испытываем непрерывно со времен первой промышленной революции, и будут весьма полезны для человечества. Некоторые даже полагают, что призрак злобного торжества искусственного интеллекта, разбуженный малообразованными лжепророками, появился лишь в результате безобразно раздутой шумихи, напоминающей известный скандал прошлого вокруг предполагаемой компьютерной ошибки 2000 г.,[7 - Ошибка, о которой идет речь, – так называемая ошибка Y2K, предполагаемый сбой в компьютерных системах в момент перехода 1999 г. в 2000 г., в результате чего должно было «обнулиться» множество данных, имеющих принципиальное значение в мировом масштабе. Ничего подобного на самом деле не произошло. – Прим. перев.] который в конечном счете оказался совершенно неоправданным и быстро исчез без следа.

Пять взглядов на наше будущее

Так что, мягко говоря, перспективы нашего будущего – это нерешенный вопрос. Противоречивые взгляды на то, как будет выглядеть человеческая жизнь в условиях полного доминирования искусственного интеллекта и роботов в промышленности и в быту, можно кратко резюмировать следующим образом:

• ничего особенного;

• в корне плохо;

• очень хорошо;

• просто катастрофа;

• перспектива вечной жизни.

Основная цель данной книги – найти ориентиры среди множества вариантов развития общества. Я не могу и не должен пытаться превозносить собственную точку зрения еще до начала спора, поэтому оставляю обсуждение первых трех возможных перспектив для следующих глав. Однако мне необходимо кое-что вкратце сказать о четвертом и пятом пункте из вышеприведенного списка.

Любому, кто не знаком с литературой по обсуждаемой теме, формулировки, которые я выбрал для описания четвертой и пятой концепции будущего, а именно «катастрофические» и «перспектива бессмертия», покажутся преувеличенными. Однако каждый, кто когда-либо копался в такой литературе, не увидит в моих словах решительно никакой гиперболы. Технари утверждают, что как только искусственный интеллект достигнет уровня развития человека, появление мыслящих машин со сверхчеловеческими способностями окажется практически неизбежным. Цифровой мозг можно «клонировать» без ограничений, и в отличие от человеческого мозга его производительность можно ускорять и ускорять…

Это наводит на мысль, что революция, вызванная изобретением искусственного интеллекта, станет, возможно, последним достижением человечества. Как только мы добьемся появления интеллектуальных устройств, превосходящих человеческий разум, у искусственного интеллекта появится возможность произвести на свет еще более великий разум, который неподвластен нашему пониманию, и мы не сможем контролировать его. И так далее и тому подобное. Для этих новых форм интеллекта мы будем не только неполноценными, но и бесполезными существами, возможно, даже обузой. Почему бы «им» тогда просто не уничтожить нас? Покойный сэр Стивен Хокинг сказал в 2014 г. во время своего интервью на BBC: «Разработка полноценного искусственного интеллекта может означать конец человечества»[8 - Об этом сообщает Рори Селлан-Джонс (Rory Cellan-Jones), корреспондент BBC, 2 декабря 2014 г.].

В том же духе выдающийся кембриджский ученый лорд Мартин Рис, королевский астроном[9 - «Королевский астроном» – традиционное звание директора Гринвичской астрономической обсерватории (Royal Greenwich Observatory) в Великобритании; вышло из официального употребления в 1972 г., но продолжает употребляться неформально. – Прим. перев.], назвал момент, когда искусственный интеллект достигнет сверхразумного состояния, «нашим последним часом». Он в принципе считает период доминирования человеческого разума в мире лишь кратковременным явлением[10 - Он пишет: «…при любом определении понятия "мышление", объем и интенсивность умственной деятельности, на которые способен органический мозг человеческого типа, в далеком будущем станут ничтожными по сравнению с возможностями искусственного интеллекта. Кроме того, биосфера Земли, где органическая жизнь развивалась, по сути, в тепличных условиях, для продвинутого искусственного интеллекта не будет оставаться, как для нас, единственной благоприятной средой. Трудно поспорить с тем, что предпочтительной ареной для его развития скорее станет межпланетное и межзвездное пространство, где производители роботов будут иметь самые неограниченные возможности для строительства и где небиологический мозг сможет развивать идеи, далеко выходящие за рамки нашего воображения, подобно тому, как сегодняшняя теория струн непостижима, скажем, для мышей». Опубликовано в газете The Daily Telegraph 23 мая 2015 г.].

Гипотетический момент, в который некая форма искусственного интеллекта станет умнее людей, часто обозначается в литературе как точка «сингулярности». Как только (и если) это произойдет, последствия такого техногенного взрыва, скорее всего, затронут жизнь огромного числа людей. Мюррей Шанахан, профессор когнитивной робототехники в Империал-колледже в Лондоне, передал взгляды целого ряда экспертов по искусственному интеллекту в цитате, которую мы приводим ниже:

«Можно провести следующую аналогию: сингулярность в истории человечества имела бы место в том случае, если бы экспоненциальный технический прогресс привел к драматическим изменениям в обществе, вследствие которых человеческие отношения в нашем сегодняшнем понимании подошли бы к концу. Признанные социальные институты – экономика, правительство, закон, государство – не смогли бы уцелеть в их нынешнем виде. Даже самые элементарные человеческие ценности – неприкосновенность жизни, стремление к счастью, свобода выбора – отменились бы сами собой»[11 - См. Shanahan (2015).].

Тем не менее мир сингулярности не обязательно должен оказаться столь недружелюбным для человечества. Напротив, для Рэя Курцвейла, «верховного жреца» энтузиастов искусственного интеллекта, очевидно, что все получится как раз наоборот. Он предвкушает слияние между людьми и искусственным интеллектом, позволяющее нам успешно «загрузить» самих себя в нематериальные формы бытия и тем самым обеспечить людям вечную жизнь[12 - Курцвейл – фигура яркая и неоднозначная, но он далеко не одинок в своих прогнозах. Подобное же видение мы находим у Джона Брокмана. Он пишет: «Если наше будущее будет долгим и процветающим, нам необходимо разработать системы искусственного интеллекта в надежде преодолеть планетарные жизненные циклы в некой гибридной форме между биологическими существами и машинами. Так что для меня в долгосрочной перспективе не стоит вопрос типа "или мы, или они"». См. Brockman, J. (2015) What to Think About Machines That Think: Today's Leading Thinkers on the Age of Machine Intelligence (New York: Harper Collins Publishers), p. 15.]. (Предполагается, что такой взгляд на будущее должен показаться нам более позитивным, верно? Не знаю, не уверен. Может быть, вам понравится, но лично меня перспектива быть навечно загруженным в какую-то форму искусственного интеллекта не очень привлекает.)

Для людей вроде меня, даже без всякой перспективы загрузки и вечной жизни, познакомиться с возможностями искусственного интеллекта и судьбой человечества после наступления сингулярности – значит окунуться в мир научной фантастики. Тем не менее в эпилоге я продемонстрирую, что не отвергаю такие идеи. Да и как я мог пройти мимо них? Если уж некоторые из величайших научных умов нашего времени, такие как сэр Стивен Хокинг и лорд Рис, восприняли подобные перспективы всерьез, едва ли я имею моральное право просто их проигнорировать.

И все-таки я глубоко осознаю разрыв между гипотетическим миром сингулярности, выглядящим как научная фантастика, и современными достижениями робототехники и искусственного интеллекта, которые влияют на экономику здесь и сейчас. Нынешние изменения в данной области требуют правильной реакции как со стороны компаний, так и со стороны частных лиц, преследующих свои собственные интересы, не говоря уже о правительствах, смыслом деятельности которых является достижение и поддержание общественного благополучия.

Как перспектива сингулярности должна влиять на эти решения и вообще должна ли? Ответ на это, среди прочих, формулирует Джон Брокман, «культурный импресарио», связанный со многими ведущими мировыми учеными и мыслителями в области искусственного интеллекта. Он полагает, что на текущие решения всех участников нынешних событий грядущие революционные изменения могут оказать заметный эффект. В частности, Брокман пишет: «Не нужно быть сверхразумным интеллектуальным существом, чтобы понять, что мчаться неподготовленным, сломя голову, навстречу крупнейшему событию в истории человечества, было бы просто глупо»[13 - См. Brockman, J. (2015) What to Think about Machines That Think, New York: HarperCollins, pp. 45–46.].

Ему вторит Стюарт Рассел, профессор компьютерных наук Калифорнийского университета, заявляющий, что не готовить себя к эпохе сингулярности было бы самонадеянным или даже откровенно безответственным решением. Расселу принадлежит следующая цитата: «Если бы мы получили радиосигнал от более продвинутой инопланетной цивилизации, сообщающей, что они прибудут сюда через 60 лет, сомнительно, чтобы вы просто пожали плечами и сказали: “Эх, еще 60 лет дожидаться…”. Особенно если бы у вас были дети»[14 - Процитировано в Brockman 2015, p. 362.].

На самом деле, я категорически не согласен с этой точкой зрения. Я бы не стал спешить с принятием серьезных решений после получения радиосигнала. Во-первых, я захотел бы убедиться, что сообщение действительно пришло от инопланетной цивилизации, и мне было бы интересно узнать, как звучит оригинальная запись сигнала, чтобы заранее знать, как правильно анонсировать его действия или прогнозировать события. Но, если бы это было первое, совершенно неожиданное сообщение, конечно, такой записи вероятно бы не было, что само по себе настораживает. В этой ситуации я бы, например, сразу вспомнил, что 30 октября 1938 г. знаменитая трансляция Орсоном Уэллсом радиоверсии антиутопического романа Герберта Уэллса «Война миров», в котором прозвучало сообщение, что пришельцы с Марса якобы вторглись в Нью-Джерси, напугала тысячи американцев и вызвала всеобщую панику.

Затем, если бы я решил, что этому посланию можно верить (разумеется, исключив из рассмотрения обоих Уэллсов, Орсона и Герберта), то задался бы вопросом о том, что именно мы можем сделать. Стоит ли готовиться к войне или планировать дружескую встречу? И еще: предположим, что в сообщении сказано, что инопланетяне прибудут через 200 лет, или даже через 500 – короче говоря, через какое-то время, пусть бы и через неделю. То, что мы должны сделать, будет радикально отличаться в зависимости от того, насколько близким или отдаленным предполагается появление космических пришельцев.

Это я пишу к тому, что люди, которые утверждают, что сингулярность уже близка, не являются всезнающими существами из какой-то более развитой, чужой цивилизации; они скорее приверженцы «культа сингулярности» здесь, на Земле. И несмотря на весь их энтузиазм или даже принципиальную возможность осуществления этой концепции существует немало веских аргументов (которые я рассмотрю в конце книги) в пользу того, что они ошибаются (и расскажу почему).

Большое значение здесь имеют временные масштабы. Верующий в возрастающую и непреодолимую мощь искусственного интеллекта лорд Рис, которого я цитировал ранее, предполагает, что машины, вероятно, захватят власть «в течение нескольких столетий». Допустим, он совершенно прав; однако и в этом случае если наступление эпохи сингулярности отдалено от нас настолько, насколько лорд Рис считает вероятным, то вполне возможно, что человечество погибнет гораздо раньше, например, от последствий ядерной войны, падения гигантского астероида, пандемии или бог знает от чего еще. Предположим однако, что нам все-таки удастся дожить до того пафосного момента.

В космическом масштабе несколько сотен лет могут выглядеть буквально мгновением, но для людей, ответственных за разработку и проведение в жизнь государственной политики, не говоря уже о каждом из нас в отдельности, этот срок может показаться бесконечностью. Внимание общества, направленное исключительно на проблему сингулярности, сбило бы с толку людей, принимающих решения, касающиеся повседневных проблем здесь и сейчас. Более того, эти повседневные проблемы, вероятно, будут оставаться с нами долгие годы. На самом же деле «повседневное» может легко сделаться «вековым» и даже «вечным», растянутым на тысячелетия. Формировать нашу жизнь и общественную политику сейчас так, чтобы подготовиться к сингулярности в какой-то неопределенный момент в будущем, было бы крайне дорогостоящим решением, чтобы не сказать – настоящим безумием. Хуже того, нерешенные сегодняшние проблемы легко могут заслонить в перспективе очевидные достижения роботов и искусственного интеллекта, делая нас неподготовленными и уязвимыми к тому, что находится непосредственно перед нашими глазами.

Итак, в предисловии к своей книге я принимаю одно важное решение. Обсуждение мира сингулярности со всеми ее последствиями я оставляю на самый конец. (Вы, если хотите, можете считать, что именно тогда случится и все прочее, скажем, Апокалипсис и осуществление пророчества о вечной жизни.) Все остальное в книге относится к предшествующему, точнее, попросту, к теперешнему миру, в котором роботы и искусственный интеллект хоть и становятся более значимыми в технике и быту, но человеческая раса еще не порабощена ими и тем более не уничтожена. Да, и еще – мы не загружены в киберпространство.

Сказанное вовсе не означает, что мы должны преуменьшать и тем более игнорировать изменения, которые роботы и искусственный интеллект производят в экономике и общественных отношениях. Эти изменения, конечно, будут весьма существенными. Мы можем идти – или не идти – навстречу сингулярности, но, несомненно, мы движемся в сторону экономики искусственного интеллекта. Эта книга о том, что означает такая экономика для человечества.

Термины и определения

Как и во всех аналитических темах с быстро развивающейся концептуальной базой, в робототехнике и искусственном интеллекте сохраняется несколько запутанных моментов, касающихся терминов и определений. Что вообще мы подразумеваем под роботами и искусственным интеллектом? Считается, что слово «робот» впервые увидело свет в 1920 г. в пьесе R.U.R. (расшифровывается как Россумские универсальные роботы) чешского писателя-фантаста Карела Чапека[15 - Сам Карел Чапек приписывает изобретение этого слова своему брату-художнику Йозефу. – Прим. перев.]. Скорее всего, его лингвистические корни выросли из существительного «robota», означающего «подневольный труд», и глагола «robotrick», переводящегося как «прислуживать»[16 - См. Ross, A. (2016) The Industries of the Future, London: Simon & Schuster, p. 35.].

Каким бы ни было его происхождение, слово «робот» вошло не только в язык, но и в наше воображение. Произнося его, мы практически однозначно представляем себе металлическую фигуру в форме человека, с головой, двумя руками и ногами. Однако многое из того, что мы могли бы назвать роботами в современности, имеет совершенно иную форму. Скорее, нам следует определить их как «механические устройства, которые можно запрограммировать на определенные действия», причем необязательно, чтобы они выглядели или пытались вести себя как люди. Я буду использовать слово «робот» для обозначения всех таких устройств, независимо от их внешнего вида и «начинки».

Термин «искусственный интеллект» был придуман в 1955 г. Джоном Маккарти, профессором математики Дартмутского колледжа в США. Вместе с коллегами из Массачусетского технологического института, лабораторий Bell и IBM он намеревался выяснить, как «заставить машины использовать язык, формировать абстракции и концепции, решать проблемы, с которыми сталкиваются люди, а также совершенствовать себя»[17 - См. Anthes, G. (2017) Artificial Intelligence Poised to Ride a New Wave, Communications of the ACM, 60(7): p. 19.].

Джон Брокман предположил, что термин «искусственный интеллект» не имеет смысла; он предпочитает говорить о «созданном интеллекте». Может быть, предложенный им вариант действительно имеет ряд преимуществ, но тем не менее словосочетание «искусственный интеллект» (как и его акроним ИИ) уже настолько укоренилось и в специальной литературе, и в разговорном языке, что менять его сейчас было бы бессмысленно. Соответственно, я буду придерживаться здесь традиционной терминологии.

Сделанные нами оговорки позволяют урегулировать вопросы с названиями, однако они по-прежнему оставляют нерешенными сложные проблемы наполнения терминов содержанием. Действительно, границы между обычными машинами и роботами, а также между роботами и искусственным интеллектом все еще не ясны. Являются ли, например, роботами стиральные машины? Как правило, мы не называем их подобным образом. Но не потому ли, что стиральные машины по форме не похожи на людей и не могут передвигаться? Точно так же, программируя устройства, которые мы обычно действительно называем роботами, на выполнение определенных задач или действий (с которыми мог бы справиться и человек), разве мы не наделяем их определенной степенью «разумности»? А ведь это, в сущности, и есть искусственный интеллект.

На самом деле по данному вопросу существует обширная литература, в которой описывается, что представляют собой роботы, что квалифицируется как искусственный интеллект и какие связи существуют между ними[18 - См., например, следующие работы: Owen-Hill, A. (2017) What's the Difference between Robotics and Artificial Intelligence? (https://blog.robotiq.com/whats-the-difference-betweenrobotics-and-artificial-intelligence (https://blog.robotiq.com/whats-the-difference-betweenrobotics-and-artificial-intelligence)), Wilson H. (2015) What is a Robot Anyway? Harvard Business Review (https://hbr.org/2015/04/what-is-a-robot-anyway (https://hbr.org/2015/04/what-is-a-robot-anyway)), Simon, M. (2017) What is a Robot? (https://www.wired.com/story/what-is-a-robot/ (https://www.wired.com/story/what-is-a-robot/)), Gabinsky, I. (2018) Autonomous vs. Automated, Oracle Database Insider (https://blogs.oracle.com/database/autonomous-vs- (https://blogs.oracle.com/database/autonomous-vs-)), и Cerf, V. G. (2013) What's a Robot? Association for Computing Machinery Communications of the ACM, 56(1): p. 7.]. Я не намерен здесь обременять читателя обличительными речами по поводу правильности или неправильности различных точек зрения по вопросу их дефиниций. Желающие могут углубиться в специальную литературу и составить об этом собственное суждение. На протяжении книги я часто использую словосочетание «роботы и искусственный интеллект» как сокращенное обозначение для всей совокупности современных интеллектуальных технологий. Я практически уверен в том, что читатели легко поймут, что я имею в виду, и у них не возникнет надобности обращаться ко всему вокабуляру, связанному с искусственным интеллектом или мучиться в поисках границ того или иного определения.

Для кого написана эта книга

Хотя я надеюсь, что экономисты найдут на этих страницах немало интересного и заслуживающего внимания, книга написана в первую очередь не для них, а для тех, кого можно назвать образованной широкой публикой. Для некоторых людей вопросы, связанные с ролью и влиянием роботов и искусственного интеллекта в современном мире, – всего лишь предмет любопытства и познавательного чтения. Я надеюсь предоставить им достаточно пищи для размышлений. Однако для других (надеюсь, многих) читателей тема этой книги раскроет основную суть их тревог по поводу будущего и затронет по-настоящему серьезные вопросы, стоящие перед ними. К этой последней группе, очевидно, будут принадлежать лица, работающие в сфере робототехники и искусственного интеллекта, а также в отраслях, тесно связанных с ними. Цель книги – помочь им разобраться в текущей ситуации, укрепить уверенность в завтрашнем дне и подсказать верные решения, касающиеся их жизни и деятельности.

Для частных лиц ключевые вопросы в жизни, как правило, сосредоточены вокруг их работы, но есть важные аспекты, касающиеся формирования досуга, пенсионного обеспечения и родительских обязанностей. Список проблем, объединяющих эти интересы с развитием интеллектуальных технологий, может быть примерно таким.

• Будет ли работа, которая уже есть у нас (или планируется в соответствии с образованием или карьерой), востребована в будущем, или она обречена на вымирание, или же существуют промежуточные варианты?

• Какие навыки нам необходимо приобретать и развивать, чтобы оптимизировать свои возможности для трудоустройства и получения достойного заработка в будущем?

• Следует ли ожидать длительных периодов без работы по собственному желанию или вынужденно?

• В случае успешного трудоустройства можем ли мы рассчитывать на сокращение рабочего времени благодаря автоматизации?