21 урок для XXI века

Чтобы понять природу технологического вызова, лучше всего, пожалуй, начать с рынка труда. С 2015 года я путешествовал по всему миру и беседовал с чиновниками, бизнесменами, общественными деятелями и студентами о том трудном положении, в котором оказалось человечество. Когда в ходе дискуссии об искусственном интеллекте, алгоритмах больших данных и биоинженерии я видел, что их одолевает отчаяние или скука, мне, как правило, хватало одного волшебного слова, чтобы снова привлечь внимание аудитории. Это было слово «работа». Очень скоро технологическая революция может вытеснить с рынка труда миллионы работников и образовать многочисленный класс лишних людей, что приведет к социальным и политическим потрясениям, справиться с которыми не под силу ни одной из существующих идеологий. Разговоры о технологии и идеологии могут показаться абстрактными и далекими от жизни, но более чем реальная перспектива массовой безработицы не оставляет равнодушным никого.

2

Работа

Когда станете взрослыми, можете не найти работу

Мы не имеем никакого представления о том, как будет выглядеть рынок труда в 2050 году. Принято считать, что машинное обучение и роботизация изменят буквально все – от производства йогуртов до преподавания йоги. Однако существуют прямо противоположные взгляды на природу грядущих изменений и их неизбежность. Некоторые убеждены, что через каких-нибудь 10–20 лет миллиарды людей станут ненужными для экономики. Другие утверждают, что автоматизация и в долгосрочной перспективе будет создавать новые профессии и обеспечит рост благосостояния для всех.

Действительно ли мы стоим на пороге пугающих перемен или подобные прогнозы – лишь очередной пример неоправданной луддитской истерии? Трудно сказать. Опасения, что автоматизация вызовет массовую безработицу, известны с XIX века, но еще ни разу не сбылись. С самого начала промышленной революции вместо каждой профессии, вытесненной машинами, появлялась как минимум одна новая, а средний уровень жизни быстро рос[10 - Gregory R. Woirol, The Technological Unemployment and Structural Unemployment Debates (Westport: Greenwood Press, 1996), 18–20; Amy Sue Bix, Inventing Ourselves out of Jobs? America’s Debate over Technological Unemployment, 1929–1981 (Baltimore: Johns Hopkins University Press, 2000), 1–8; Joel Mokyr, Chris Vickers and Nicolas L. Ziebarth, ‘The History of Technological Anxiety and the Future of Economic Growth: Is This Time Different?’, Journal of Economic Perspectives 29:3 (2015), 33–42; Joe Mokyr, The Gifts of Athena: Historical Origins of the Knowledge Economy (Princeton: Princeton University Press, 2002), 255–257; David H. Autor, ‘Why Are There Still So Many Jobs? The History and the Future of Workplace Automation’, Journal of Economic Perspectives 29:3 (2015), 3–30; Melanie Arntz, Terry Gregory and Ulrich Zierahn, ‘The Risk of Automation for Jobs in OECD Countries’, OECD Social, Employment and Migration Working Papers 89 (2016); Mariacristina Piva and Marco Vivarelli, ‘Technological Change and Employment: Were Ricardo and Marx Right?’, IZA Institute of Labor Economics, Discussion Paper No.10471 (2017).]. Однако есть все основания полагать, что времена изменились и что машинное обучение в корне изменит правила игры.

Люди обладают двумя видами способностей: физическими и когнитивными. В прошлом машины конкурировали с человеком, как правило, в грубой физической силе, тогда как в интеллектуальной сфере за людьми сохранялось огромное преимущество. После автоматизации ручного труда в сельском хозяйстве и промышленности появились новые профессии в сфере услуг, требовавшие умственных навыков, которыми обладают только люди: это обучение, анализ, общение и, самое главное, понимание человеческих эмоций. Однако сегодня искусственный интеллект начинает превосходить людей во все большем числе таких навыков, включая распознавание человеческих эмоций[11 - См., например, как ИИ побеждает людей в авиационных симуляторах, и особенно в воздушном бое: Nicholas Ernest et al., ‘Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions’, Journal of Defense Management 6:1 (2016), 1–7; интеллектуальные обучающие системы: Kurt VanLehn, ‘The Relative Effectiveness of Human Tutoring, Intelligent Tutoring Systems, and Other Tutoring Systems’, Educational Psychologist 46:4 (2011), 197–221; алгоритмический трейдинг: Giuseppe Nuti et al., ‘Algorithmic Trading’, Computer 44:11 (2011), 61–69; финансовое планирование, управление портфелем ценных бумаг и т. д.: Arash Baharammirzaee, ‘A comparative Survey of Artificial Intelligence Applications in Finance: Artificial Neural Networks, Expert System and Hybrid Intelligent Systems’, Neural Computing and Applications 19:8 (2010), 1165–1195; анализ сложных данных в медицинских системах, постановка диагноза и назначение лечения: Marjorie Glass Zauderer et al., ‘Piloting IBM Watson Oncology within Memorial Sloan Kettering’s Regional Network’, Journal of Clinical Oncology 32:15 (2014), e17653; создание оригинальных текстов на естественном языке из большого объема данных: Jean-Sеbastien Vayre et al., ‘Communication Mediated through Natural Language Generation in Big Data Environments: The Case of Nomao’, Journal of Computer and Communication 5 (2017), 125–148; распознавание лиц: Florian Schroff, Dmitry Kalenichenko and James Philbin, ‘FaceNet: A Unified Embedding for Face Recognition and Clustering’, IEEE Conference on Computer Vision and Pattern Recognition (CVPR) (2015), 815–823; управление автомобилем: Cristiano Premebida, ‘A Lidar and Vision-based Approach for Pedestrian and Vehicle Detection and Tracking’, 2007 IEEE Intelligent Transportation Systems Conference (2007).]. О существовании какого-то третьего поля деятельности (за пределами физического и когнитивного), где позиции людей были бы непоколебимы, нам неизвестно.

Важно понимать, что революция в сфере искусственного интеллекта связана не только с тем, что компьютеры становятся быстрее и умнее. Ее подпитывают прорывы в естественных и социальных науках. Чем яснее мы понимаем механизмы биохимических процессов, лежащих в основе человеческих эмоций, желаний и поступков, тем успешнее компьютеры анализируют поведение человека и предсказывают его решения, заменяя водителей, банкиров и юристов.

В последние десятилетия исследования в области нейробиологии и поведенческой экономики позволили ученым «взломать» человеческое мышление и гораздо лучше понять, как действует механизм принятия решений. Выяснилось, что наш выбор чего бы то ни было, от еды до партнера, определяет не какая-то загадочная свобода воли, а взаимодействие миллиардов нейронов, за долю секунды вычисляющих вероятности. Хваленая «человеческая интуиция» на поверку оказалась «распознаванием образов»[12 - Daniel Kahneman, Thinking, Fast and Slow (New York: Farrar, Straus & Giroux, 2011); Dan Ariely, Predictably Irrational (New York: Harper, 2009); Brian D. Ripley, Pattern Recognition and Neural Networks (Cambridge: Cambridge University Press, 2007); Christopher M. Bishop, Pattern Recognition and Machine Learning (New York: Springer, 2007).]. Хорошие водители, банкиры и юристы вовсе не обладают магической интуицией в отношении трафика, инвестиций или переговоров. Узнавая повторяющиеся схемы, они замечают неосторожных пешеходов, ненадежных заемщиков, хитрых мошенников и стараются избегать их. Выяснилось также, что биохимические алгоритмы человеческого мозга далеко не совершенны. Они основаны на эвристике, упрощениях и устаревших нервных связях, более пригодных для условий африканской саванны, чем для каменных джунглей города. Неудивительно, что даже опытные водители, банкиры и юристы иногда совершают глупые ошибки.

Это значит, что искусственный интеллект способен превзойти человека даже в решении тех задач, которые якобы требуют «интуиции». Если говорить о состязании искусственного интеллекта с человеком в том, что касается мистических предчувствий, такая задача кажется невыполнимой. А вот соревнование искусственного интеллекта с нейронными сетями в вычислительных возможностях и распознавании закономерностей уже не выглядит невероятным.

В частности, искусственный интеллект может лучше справляться с задачами, которые требуют интуиции в отношении поведения других людей. Многие занятия (например, управление автомобилем на дороге с большим потоком пешеходов, выдача кредитов незнакомым людям, ведение деловых переговоров) требуют способности правильной оценки эмоций и желаний других людей. Выскочит ли этот ребенок на дорогу? Не собирается ли этот человек в приличном костюме взять деньги и исчезнуть? Намерен ли этот юрист выполнить свои угрозы или он просто блефует? Пока мы полагали, что такого рода эмоции и желания порождаются нематериальной душой, казалось очевидным, что компьютеры никогда не заменят водителей, банкиров и юристов. Разве машина может понять то, что мистическим образом создано человеческой душой? Но если эти эмоции и желания суть результат действия биохимических алгоритмов, нет никаких причин, по которым компьютеры не могли бы расшифровывать их – и гораздо успешнее, чем любой Homo sapiens.

Водитель, предвидящий намерения пешехода, банкир, который оценивает кредитоспособность потенциального заемщика, и юрист, чувствующий настроение партнера за столом переговоров, опираются не на магию. Они просто не осознают, что их мозг распознает биохимические закономерности, анализируя выражение лица, интонации голоса, движения рук и даже исходящий от человека запах. Искусственный интеллект, снабженный соответствующими датчиками, может делать все это гораздо точнее и надежнее, чем человек.

Поэтому угроза массовой безработицы связана не только с развитием информационных технологий. К ней ведет слияние искусственного интеллекта с биотехнологиями. Путь от сканера МРТ до рынка труда долог и тернист, но его можно пройти за несколько десятилетий. Те знания, которые сегодня исследователи мозга получают о миндалевидном теле или мозжечке, к 2050 году позволят компьютерам превзойти психиатров и телохранителей.

Искусственный интеллект может не только «взламывать» людей и превосходить их в умениях и навыках, которые до сих пор считались исключительно человеческими. Он также обладает уникальными способностями, отсутствующими у человека, что делает различие между ним и работником из плоти и крови не только количественным, но и качественным. Две важные сверхчеловеческие способности искусственного интеллекта – это возможность подключения и взаимодействия, а также обновляемость.

Люди – отдельные личности, и их трудно подключить друг к другу и проследить, чтобы все они отвечали современным требованиям. Зато компьютеры легко объединить в единую гибкую сеть. Поэтому речь идет не о замене миллионов отдельных работников миллионами роботов и компьютеров. Скорее всего, отдельных людей заменят интегрированные сети. Говоря об автоматизации, некорректно сравнивать возможности одного водителя с возможностями одного беспилотного автомобиля или одного врача с одним искусственным интеллектом, который ставит диагноз и назначает лечение. Нужно сравнивать возможности коллектива людей с возможностями интегрированной сети.

Например, многие водители не знают о последних изменениях в правилах дорожного движения и поэтому часто их нарушают. Кроме того, поскольку каждая машина автономна, то, когда две машины приближаются к одному перекрестку, водители могут неверно оценить намерения друг друга, что приводит к аварии. Два беспилотных автомобиля, приближающиеся к перекрестку, не полностью автономны – они части единого алгоритма. Поэтому вероятность неверной интерпретации намерений, а значит, и столкновения у них гораздо ниже. А если министерство транспорта решит изменить какие-то пункты ПДД, все беспилотные автомобили можно одновременно и без особого труда перепрограммировать, чтобы они в точности соблюдали новые правила[13 - Seyed Azimi et al., ‘Vehicular Networks for Collision Avoidance at Intersections,’ SAE International Journal of Passenger Cars – Mechanical Systems 4 (2011), 406–416; Swarun Kumar et al., ‘CarSpeak: A Content-Centric Network for Autonomous Driving’, SIGCOM Computer Communication Review 42(2012), 259–270; Mihail L. Sichitiu and Maria Kihl, ‘Inter-Vehicle Communication Systems: A Survey’, IEEE Communications Surveys & Tutorials (2008), 10; Mario Gerla, Eun-Kyu Lee and Giovanni Pau, ‘Internet of Vehicles: From Intelligent Grid to Autonomous Cars and Vehicular Clouds’, 2014 IEEE World Forum on Internet of Things (WF-IoT) (2014), 241–246.].

Сказанное справедливо и для медицины. Когда Всемирная организация здравоохранения выявляет новое заболевание или какая-нибудь лаборатория создает новое лекарство, информацию об этом практически невозможно донести сразу до всех врачей в мире. Но если мы создадим даже 10 миллиардов систем медицинского искусственного интеллекта и каждая будет следить за здоровьем какого-то одного человека, информацию в них можно обновить за доли секунды, и эти системы легко смогут обмениваться данными о новом вирусе или препарате. Эти потенциальные преимущества – взаимодействие и обновляемость – столь велики, что в некоторых профессиях имеет смысл заменить всех людей компьютерами, даже если некоторые специалисты по-прежнему справляются с работой лучше машины.

Вы можете возразить, что, заменив отдельных людей компьютерной сетью, мы лишимся преимуществ индивидуального подхода. Например, если один врач поставит неверный диагноз, он не убьет всех пациентов в мире и не остановит разработку всех новых лекарств. Но если все врачи представляют собой единую систему и эта система допустит ошибку, результат может оказаться катастрофическим. В реальности интегрированные компьютерные системы могут максимизировать преимущества взаимодействия, не растеряв преимуществ индивидуального подхода. В одной сети будут выполняться разные алгоритмы – так, чтобы пациент в отдаленной деревне в джунглях мог с помощью смартфона связаться не с одним авторитетным врачом, а с сотнями систем медицинского искусственного интеллекта, работа которых подвергается постоянному сравнению. Не устраивают рекомендации врача IBM? Не страшно. Даже если вы застряли где-то на склонах Килиманджаро, вам не составит никакого труда узнать мнение доктора из Baidu.

Польза для человеческого общества, вероятно, будет огромной. Системы медицинского искусственного интеллекта смогут обеспечить более качественным и дешевым медицинским обслуживанием миллиарды людей, включая тех, кому сегодня вообще недоступны услуги здравоохранения. Благодаря обучающим алгоритмам и биометрическим датчикам бедный деревенский житель из слаборазвитой страны сможет получить медицинские услуги, по качеству значительно превосходящие те, что сегодня богатейшие люди мира получают в самых современных клиниках[14 - David D. Luxton et al., ‘mHealth for Mental Health: Integrating Smartphone Technology in Behavioural Healthcare’, Professional Psychology: Research and Practice 42:6 (2011), 505–512; Abu Saleh Mohammad Mosa, Illhoi Yoo and Lincoln Sheets, ‘A Systematic Review of Healthcare Application for Smartphones’, BMC Medical Informatics and Decision Making 12:1 (2012), 67; Karl Frederick Braekkan Payne, Heather Wharrad and Kim Watts, ‘Smartphone and Medical Related App Use among Medical Students and Junior Doctors in the United Kingdom (UK): A Regional Survey’, BMC Medical Informatics and Decision Making 12:1 (2012), 121; Sandeep Kumar Vashist, E. Marion Schneider and John H. T. Loung, ‘Commercial Smartphone-Based Devices and Smart Applications for Personalised Healthcare Monitoring and Management’, Diagnostics 4:3 (2014), 104–128; Maged N. Kamel Bouls et al., ‘How Smartphones Are Changing the Face of Mobile and Participatory Healthcare: An Overview, with Example from eCAALYX’, BioMedical Engineering OnLine 10:24 (2011), https://doi.org/10.1186/1475-925X-10-24 (https://doi.org/10.1186/1475-925X-10-24), accessed 30 July 2017; Paul J. F. White, Blake W. Podaima and Marcia R. Friesen, ‘Algorithms for Smartphone and Tablet Image Analysis for Healthcare Applications’, IEEE Access 2 (2014), 831–840.].

Аналогичным образом беспилотные автомобили могли бы обеспечить людей лучшими транспортными услугами – в частности, снизить смертность из-за автомобильных аварий. В наши дни в авариях на дорогах ежегодно гибнет около 1,25 миллиона человек (в два раза больше, чем из-за войн, преступлений и терактов)[15 - World Health Organization, Global status report on road safety 2015 (2016); ‘Estimates for 2000–2015, Cause-Specific Mortality’, http://www.who.int/healthinfo/global_burden_disease/estimates/en/index1.html (http://www.who.int/healthinfo/global_burden_disease/estimates/en/index1.html), accessed 6 September 2017.]. Более 90 % этих аварий связаны с так называемым человеческим фактором: кто-то сел за руль нетрезвым, кто-то вел машину, набирая сообщение на телефоне, кто-то заснул за рулем, кто-то просто погрузился в грезы, вместо того чтобы следить за дорогой. По оценкам Национального управления безопасности движения на трассах, в 2012 году в США причиной 31 % смертельных аварий был алкоголь, 30 % – превышение скорости и 21 % – невнимательность[16 - Анализ причин автомобильных аварий в США см.: Daniel J. Fagnant and Kara Kockelman, ‘Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations’, Transportation Research Part A: Policy and Practice 77 (2015), 167–181; анализ данных по всему миру см., например: OECD/ITF, Road Safety Annual Report 2016 (Paris: OECD Publishing, 2016), http://dx.doi.org/10.1787/irtad-2016-en (http://dx.doi.org/10.1787/irtad-2016-en).]. Для беспилотных автомобилей подобное невозможно. Хотя у них есть свои проблемы и ограничения, а некоторых аварий не удастся избежать никому, замена всех водителей компьютерами, как ожидается, снизит уровень смертности и травм на дорогах приблизительно на 90 %[17 - Kristofer D. Kusano and Hampton C. Gabler, ‘Safety Benefits of Forward Collision Warning, Brake Assist, and Autonomous Braking Systems in Rear-End Collisions’, IEEE Transactions on Intelligent Transportation Systems 13:4 (2012), 1546–1555; James M. Anderson et al., Autonomous Vehicle Technology: A Guide for Policymakers (Santa Monica: RAND Corporation, 2014), esp. 13–15; Daniel J. Fagnant and Kara Kockelman, ‘Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations’, Transportation Research Part A: Policy and Practice 77 (2015), 167–181; Jean-Francois Bonnefon, Azim Shariff and Iyad Rahwan, ‘Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?’, arXiv (2015), 1–15. О предложениях по созданию межтранспортных сетей для предотвращения аварий см.: Seyed R. Azimi et al., ‘Vehicular Networks for Collision Avoidance at Intersections’, SAE International Journal of Passenger Cars – Mechanical Systems 4:1 (2011), 406–416; Swarun Kumar et al., ‘CarSpeak: A Content-Centric Network for Autonomous Driving’, SIGCOM Computer Communication Review 42:4 (2012), 259–270; Mihail L. Sichitiu and Maria Kihl, ‘Inter-Vehicle Communication Systems: A Survey’, IEEE Communications Surveys & Tutorials 10:2 (2008); Mario Gerla et al., ‘Internet of Vehicles: From Intelligent Grid to Autonomous Cars and Vehicular Clouds’, 2014 IEEE World Forum on Internet of Things (WF-IoT) (2014), 241–246.]. Иными словами, переход на беспилотные автомобили, по всей видимости, каждый год будет сохранять жизни миллиону человек.

Так что было бы безумием препятствовать автоматизации в сфере транспорта и здравоохранения только ради того, чтобы сохранить людям рабочие места. Ведь по большому счету защищать нужно именно людей, а не работу. Освободившимся водителям и врачам просто придется искать себе другие занятия.

Алгоритм по имени Моцарт

Маловероятно, что искусственный интеллект и роботы полностью уничтожат целые отрасли – по крайней мере, в ближайшее время. Будет автоматизирован в основном узкий диапазон монотонных рабочих операций. Гораздо труднее заменить машинами представителей творческих профессий, в которых необходимо использовать широкий набор навыков и которые требуют умения действовать в непредсказуемых ситуациях. Вернемся к здравоохранению. Многие врачи практически полностью заняты обработкой информации: они собирают данные о здоровье, анализируют их, ставят диагноз. А вот медсестра должна обладать хорошими моторными и эмоциональными навыками, чтобы безболезненно сделать укол, сменить повязку или успокоить буйного пациента. Поэтому, скорее всего, семейный врач с искусственным интеллектом на нашем смартфоне появится на несколько десятилетий раньше, чем мы увидим надежного робота-медсестру[18 - Michael Chui, James Manyika and Mehdi Miremadi, ‘Where Machines Could Replace Humans – and Where They Can’t (Yet)’, McKinsey Quarterly (2016), http://www.mckinsey.com/business-functions/digital-mckinsey/our-insights/where-machines-could-replace-humans-and-where-they-cant-yet (http://www.mckinsey.com/business-functions/digital-mckinsey/our-insights/where-machines-could-replace-humans-and-where-they-cant-yet), accessed 1 March 2018.]. По всей вероятности, сфера социального обслуживания – забота о больных, детях и стариках – еще долго останется в ведении человека.

Люди живут все дольше, а детей у них становится меньше, и поэтому уход за пожилыми будет одним из самых быстрорастущих секторов на рынке труда для человека.

Плохо поддается автоматизации не только уход за больными и немощными, но и творческий процесс. Нам больше не нужны люди, продающие музыку: мы можем напрямую загрузить ее из iTunes, – но композиторы, музыканты, певцы и диджеи у нас по-прежнему из плоти и крови. Мы полагаемся на творческие способности людей не только в сочинении новой музыки, но и в выборе из невероятного количества доступных вариантов.

И все же автоматизации не избежит ни одна сфера – даже искусство. В современном мире искусство обычно ассоциируют с человеческими эмоциями. Мы склонны считать, что художник дает выход неким внутренним психологическим процессам, что цель искусства – помочь нам осознать свои эмоции или пробудить в нас новые чувства. Поэтому, анализируя искусство, мы пытаемся судить о нем по эмоциональному воздействию на аудиторию. Но если в основе искусства лежат чувства, что произойдет, когда внешние алгоритмы научатся понимать человеческие эмоции и манипулировать ими лучше, чем Шекспир, Фрида Кало или Бейонсе?

В конце концов, эмоции – вовсе не мистическое явление, а продукт биохимических процессов. Поэтому в недалеком будущем алгоритм машинного обучения сможет анализировать биометрические данные от датчиков внутри и на поверхности вашего тела, определять ваш тип личности, следить за сменой настроения, а затем вычислять эмоциональное воздействие, которое окажет на вас та или иная композиция – или даже музыкальная тональность[19 - Wu Youyou, Michal Kosinski and David Stillwell, ‘Computer-based personality judgments are more accurate than those made by humans’, PANS, vol. 112 (2014), 1036–1038.].

Вероятно, из всех видов искусства для анализа больших данных лучше всего подходит музыка, поскольку и она сама, и результат ее воздействия поддаются точному математическому описанию. На входе – математические диаграммы звуковых волн, на выходе – электрохимические диаграммы нейронных бурь. Через несколько десятилетий алгоритм, проанализировавший миллионы мелодий, научится предсказывать, какую реакцию вызовет любая из них[20 - Stuart Dredge, ‘AI and music: will we be slaves to the algorithm?’ Guardian, 6 August 2017, https://www.theguardian.com/technology/2017/aug/06/artificial-intelligence-and-will-we-be-slaves-to-the-algorithm (https://www.theguardian.com/technology/2017/aug/06/artificial-intelligence-and-will-we-be-slaves-to-the-algorithm), accessed 15 October 2017. Обзорный анализ методов см.: Jose David Fernаndez and Francisco Vico, ‘AI Methods in Algorithmic Composition: A Comprehensive Survey’, Journal of Artificial Intelligence Research 48 (2013), 513–582.].

Предположим, вы только что поссорились с близким человеком. Алгоритм, управляющий аудиосистемой в вашем доме, сразу же заметит ваше эмоциональное возбуждение и, основываясь на том, что он знает о вас лично и о человеческой психологии в целом, включит композиции, соответствующие вашему мрачному настроению и созвучные вашим переживаниям. Эти мелодии не обязательно подойдут другим, но для вашего типа личности они идеальны. После того как алгоритм поможет вам осознать глубину ваших страданий, он включит единственную в мире песню, которая способна вас утешить – возможно, потому, что ваше подсознание ассоциирует ее с воспоминаниями о счастливом детстве, хотя вы об этом даже не догадываетесь. Ни один диджей никогда не сравняется в этом умении с искусственным интеллектом.

Вы можете возразить, что таким образом искусственный интеллект убьет интуицию и запрет нас внутри тесного музыкального кокона, сотканного из предыдущих предпочтений. А как насчет того, чтобы ознакомиться с новыми музыкальными стилями? Не проблема. Вы легко сможете запрограммировать алгоритм так, чтобы в 5 % случаев его выбор был абсолютно случайным – он будет без предупреждения проигрывать вам записи индонезийского оркестра гамелан, оперы Россини или последние южнокорейские хиты. Со временем, регистрируя вашу реакцию, искусственный интеллект сумеет даже вычислить оптимальный уровень случайности, который будет обеспечивать необходимую новизну, не вызывая раздражения: например, понизит его до 3 % или повысит до 8 %.

Другое возможное возражение – непонятно, как алгоритм будет устанавливать «эмоциональную цель». Если вы поссорились с другом, к каким эмоциям должен подталкивать вас алгоритм – к печали или к радости? Будет ли он слепо придерживаться жесткой шкалы «хороших» и «плохих» эмоций? А что, если в жизни бывают минуты, когда грусть полезна? Тот же вопрос можно адресовать музыкантам и диджеям. Однако алгоритм может предложить много интересных решений и для этой задачи.

Одно из них – просто предоставить решать пользователю. Вы можете выбрать желательные эмоции, а алгоритм будет следовать вашим указаниям. Иногда вам хочется жалеть себя, иногда – прыгать от радости. Алгоритм будет покорно вам подчиняться. Он научится распознавать ваши желания даже тогда, когда вы сами плохо их понимаете.

А если вы не хотите полагаться на себя, то можете попросить алгоритм следовать рекомендациям любого выдающегося психолога, которому доверяете. Если вы расстанетесь с близким человеком, алгоритм проведет вас через пять стадий переживания горя: сначала поможет отрицать случившееся, проигрывая Don’t Worry, Be Happy Бобби Макферрина, потом подстегнет ваш гнев песней Аланис Мориссетт You Oughta Know, заставит торговаться с помощью Ne Me Quitte Pas Жака Бреля и Come Back and Stay Пола Янга, повергнет в депрессию композицией Адель Someone Like You и Hello и, наконец, поможет принять неизбежное, включив I Will Survive Глории Гейнор.

Следующий шаг для алгоритма – работать с самими песнями и мелодиями, слегка меняя их, чтобы адаптировать к запросам клиента. Возможно, вам не нравится небольшой фрагмент в целом отличной песни. Алгоритм знает об этом, потому что ваш сердечный ритм меняется, а уровень окситоцина падает, когда вы слышите раздражающий вас кусок. И он может переписать или отредактировать ноты, которые вам не по душе.

Когда-нибудь алгоритмы научатся сочинять целые мелодии, играя на человеческих эмоциях, словно на клавишах фортепиано. Используя ваши биометрические данные, алгоритм сможет даже писать персонализированную музыку, которую сможете полностью понять и прочувствовать только вы.

Часто говорят, что люди воспринимают искусство потому, что находят в нем себя. Мы увидим удивительные и несколько пугающие результаты, если, скажем, Facebook начнет создавать персонализированные шедевры на основе всего, что он о вас знает. Если вас бросит партнер, Facebook утешит вас песней об этом конкретном негодяе, а не о каком-то незнакомце, разбившем сердце Адель или Аланис Мориссетт. Песня даже напомнит вам о реальных эпизодах ваших взаимоотношений, о которых во всем мире знаете только вы двое.

Конечно, персонализированное искусство может и не войти в моду – не исключено, что люди по-прежнему будут предпочитать знакомые хиты, которые нравятся всем. (Как петь с друзьями песни, известные только вам, или танцевать всем вместе под такую музыку?) Но в создании мировых хитов алгоритмы способны проявить еще большую гибкость, чем в сочинении персональной музыки. Используя массивы биометрических данных миллионов людей, алгоритм сможет выяснить, на какие биохимические «кнопки» нужно нажать, чтобы будущий хит захватил все танцполы мира. Если искусство действительно призвано вызывать у человека эмоции (или манипулировать ими), то музыкантам-людям будет очень трудно или даже невозможно тягаться с алгоритмом: ведь они не в состоянии так глубоко понять главный инструмент, на котором играют, – свою биохимическую систему.

Появится ли в результате великое искусство? Все зависит от того, что мы вкладываем в это понятие. Если красота действительно в глазах смотрящего (и в ушах слушающего) и если клиент всегда прав, то у биометрических алгоритмов есть шанс создать лучшие шедевры в истории. Если искусство – это нечто более глубокое, чем человеческие эмоции, и оно должно выражать некую истину, не имеющую отношения к нашим биохимическим колебаниям, то биометрические алгоритмы, возможно, будут не слишком хорошими художниками. Как, впрочем, и большинство людей. Чтобы выйти на музыкальный рынок и потеснить многих композиторов и исполнителей, алгоритму не обязательно писать музыку лучше Чайковского. Для начала достаточно превзойти Бритни Спирс.

Новые профессии?

Исчезновение многих традиционных профессий в самых разных областях, от искусства до здравоохранения, отчасти будет скомпенсировано созданием новых. Семейного врача, который занят в основном диагностикой известных болезней и выпиской знакомых лекарств, вероятно, заменит искусственный интеллект. Но благодаря этому у нас останется больше денег на врачей и лаборантов, которые проводят революционные исследования, разрабатывают новые лекарства или хирургические процедуры[21 - Eric Topol, The Patient Will See You Now: The Future of Medicine is in Your Hands (New York: Basic Books, 2015); Robert Wachter, The Digital Doctor: Hope, Hype and Harm at the Dawn of Medicine’s Computer Age (New York: McGraw-Hill Education, 2015); Simon Parkin, ‘The Artificially Intelligent Doctor Will Hear You Now’, MIT Technology Review (2016), https://www.technologyreview.com/s/600868/the-artificially-intelligent-doctor-will-hear-you-now/ (https://www.technologyreview.com/s/600868/the-artificially-intelligent-doctor-will-hear-you-now/); James Gallagher, ‘Artificial intelligence “as good as cancer doctors”, BBC, 26 January 2017, http://www.bbc.com/news/health-38717928 (http://www.bbc.com/news/health-38717928).].

Искусственный интеллект будет способствовать созданию новых профессий и другим путем. Вместо того чтобы соревноваться с искусственным интеллектом, люди могут сосредоточиться на его обслуживании и совершенствовании. Например, замена летчиков беспилотными аппаратами сделала ненужными некоторые профессии, но вместе с тем создала новые рабочие места в сферах технического обслуживания, дистанционного управления, анализа данных и кибербезопасности. Вооруженным силам США для управления каждым дроном Predator или Reaper в небе над Сирией требуется 30 человек, а обработкой информации, поступающей от беспилотного аппарата, занимаются еще как минимум 80 сотрудников. В 2015 году американским ВВС не хватало опытных специалистов для этих должностей. Довольно забавный кризис – нехватка людей для управления беспилотными летательными аппаратами[22 - Kate Brannen, ‘Air Force’s lack of drone pilots reaching “crisis” levels’, Foreign Policy, 15 January 2015, http://foreignpolicy.com/2015/01/15/air-forces-lack-of-drone-pilots-reaching-crisis-levels/ (http://foreignpolicy.com/2015/01/15/air-forces-lack-of-drone-pilots-reaching-crisis-levels/).].

Если так пойдет и дальше, то в 2050 году на рынке труда будет наблюдаться сотрудничество, а не соперничество человека и искусственного интеллекта. В самых разных областях, от политики до банковской деятельности, коллективы из людей и искусственного интеллекта могут превзойти и людей, и компьютеры. После того как в 1997 году разработанная IBM шахматная программа Deep Blue победила Гарри Каспарова, люди не перестали играть в шахматы. Наоборот: благодаря искусственному интеллекту шахматные мастера теперь играют гораздо лучше, чем когда-либо, и сегодня шахматные команды в составе человека и искусственного интеллекта (их называют «кентаврами») превосходят и людей, и компьютеры. Точно так же искусственный интеллект поможет готовить лучших в истории детективов, банкиров и солдат[23 - Tyler Cowen, Average is Over: Powering America Beyond the Age of the Great Stagnation (New York: Dutton, 2013); Brad Bush, ‘How combined human and computer intelligence will redefine jobs’, TechCrunch (2016), https://techcrunch.com/2016/11/01/how-combined-human-and-computer-intelligence-will-redefine-jobs/ (https://techcrunch.com/2016/11/01/how-combined-human-and-computer-intelligence-will-redefine-jobs/).].

Однако новые профессии, по всей видимости, потребуют высокой квалификации, а значит, вопрос о занятости неквалифицированных работников остается открытым. Возможно, создавать новые рабочие места будет проще, чем переобучить людей, которые должны их занять. Во время прежних волн автоматизации люди, как правило, могли переходить с одной монотонной и неквалифицированной работы на другую. В 1920-е годы сельскохозяйственный рабочий, оставшийся не у дел из-за механизации сельского хозяйства, находил новую работу на тракторном заводе. В 1980 году рабочий, уволенный из-за сокращения штатов, устраивался кассиром в супермаркет. Такая смена профессий была возможна потому, что переход с фермы на завод или с завода в супермаркет требовал лишь минимальной переподготовки.

Но в 2050 году кассир или работник текстильной фабрики, которого заменит робот, едва ли сможет стать ученым в области онкологии, управлять беспилотным летательным аппаратом или устроиться в банк, чтобы работать в паре с искусственным интеллектом. У него не будет необходимой для этих профессий квалификации. Во время Первой мировой войны был смысл посылать на фронт миллионы необученных призывников, которые перезаряжали пулеметы и тысячами гибли под огнем врага. Их индивидуальные умения и навыки не играли особой роли. Сегодня, несмотря на нехватку операторов дронов и специалистов по анализу данных, американские ВВС не спешат заполнять вакансии людьми, уволенными из супермаркетов Walmart. Никто не хочет, чтобы неопытный новобранец перепутал афганскую свадьбу с совещанием лидеров талибана.

Таким образом, несмотря на появление множества новых профессий, может возникнуть целый класс «лишних» людей. Возможно, ситуация ухудшится сразу на двух фронтах – высокий уровень безработицы будет сопровождаться нехваткой квалифицированных специалистов. Многие люди разделят судьбу даже не извозчиков XIX века (кто-то из них научился водить такси), а лошадей, которых полностью вытеснили с рынка труда[24 - Ulrich Raulff, Farewell to the Horse: The Final Century of Our Relationship (London: Allen Lane, 2017); Gregory Clark, A Farewell to Alms: A Brief Economic History of the World (Princeton: Princeton University Press, 2008), 286; Margo DeMello, Animals and Society: An Introduction to Human-Animal Studies (New York: Columbia University Press, 2012), 197; Clay McShane and Joel Tarr, ‘The Decline of the Urban Horse in American Cities’, Journal of Transport History 24:2 (2003), 177–198.].

Кроме того, ни одна из профессий не застрахована от автоматизации, поскольку машинное обучение и роботы будут постоянно совершенствоваться. Сорокалетний кассир, уволенный из Walmart, ценой невероятных усилий может выучиться на оператора дрона – но не исключено, что лет через десять ему снова придется переучиваться, потому что и эта профессия будет автоматизирована. В условиях подобной нестабильности возникнут проблемы с созданием профсоюзов и защитой прав работников. Уже сегодня в развитых экономиках многие новые профессии предполагают временное, не защищенное законодательством трудоустройство, фриланс и разовые услуги[25 - Lawrence F. Katz and Alan B. Krueger, ‘The Rise and Nature of Alternative Work Arrangements in the United States, 1995–2015’, National Bureau of Economic Research (2016); Peter H. Cappelli and J. R. Keller, ‘A Study of the Extent and Potential Causes of Alternative Employment Arrangements’, ILR Review 66:4 (2013), 874–901; Gretchen M. Spreitzer, Lindsey Cameron and Lyndon Garrett, ‘Alternative Work Arrangements: Two Images of the New World of Work’, Annual Review of Organizational Psychology and Organizational Behavior 4 (2017), 473–499; Sarah A. Donovan, David H. Bradley and Jon O. Shimabukuru, ‘What Does the Gig Economy Mean for Workers?’, Washington DC: Congressional Research Service (2016), https://fas.org/sgp/crs/misc/R44365.pdf (https://fas.org/sgp/crs/misc/R44365.pdf), accessed 11 February 2018; ‘More Workers Are in Alternative Employment Arrangements’, Pew Research Center, 28 September 2016, http://www.pewsocialtrends.org/2016/10/06/the-state-of-american-jobs/st_2016-10-06_jobs-26/ (http://www.pewsocialtrends.org/2016/10/06/the-state-of-american-jobs/st_2016-10-06_jobs-26/), accessed 11 February 2018.]. Как создать профсоюз в профессии, которая появляется и исчезает в течение одного десятилетия?

Точно так же внутри «кентавра» из человека и компьютера, скорее всего, будет наблюдаться соперничество, а не долговременное сотрудничество. В группах, состоящих только из людей (например, из Шерлока Холмса и доктора Ватсона), обычно формируется иерархия и устанавливается определенный порядок, не меняющийся десятилетиями. Но детектив, работающий с компьютерной системой «Доктор Ватсон» (прославившейся в 2011 году победой в американской телевикторине Jeopardy!), обнаружит, что рутина становится источником осложнений, а сложившаяся иерархия – приглашением к революции. Тот, кто вчера был закадычным другом, завтра может превратиться в начальника, а протоколы и инструкции придется переписывать каждый год[26 - David Ferrucci et al.,‘Watson: Beyond Jeopardy!’, Artificial Intelligence 19–200 (2013), 93–105.].

Внимательное изучение мира шахмат позволяет нам выявить долгосрочные тенденции и в других сферах человеческой деятельности. Да, в течение нескольких лет после победы Deep Blue над Каспаровым в шахматах развивалось сотрудничество человека и компьютера. Но в последнее время компьютеры научились так хорошо играть в шахматы, что человек в качестве партнера потерял всякую ценность и вскоре станет совсем не нужен.

Относительно недавно был пройден еще один важный этап. Уже никого не удивляло, что компьютер способен обыграть человека, но 7 декабря 2017 года алгоритм AlphaZero компании Google выиграл у Stockfish 8, чемпиона мира 2016 года среди компьютерных программ. Stockfish 8 имела доступ к опыту, накопленному человеком за сотни лет игры в шахматы, а также к данным шахматных программ за несколько десятков лет. Она могла просчитывать 70 миллионов шахматных позиций в секунду. Скорость вычислений AlphaZero составляла лишь 80 тысяч операций в секунду, и создатели программы не обучили ее шахматной стратегии – даже стандартным дебютам. Осваивая шахматы, программа AlphaZero использовала самые современные методы машинного обучения, играя сама с собой. Тем не менее из ста партий, сыгранных со Stockfish 8, новичок AlphaZero выиграл 28 и свел вничью 72. Ни одного проигрыша! Поскольку алгоритм AlphaZero не учился у человека, многие из его выигрышных ходов и стратегий выглядят весьма необычно. Их с полным основанием можно назвать творческими – если не гениальными.

Угадайте, сколько времени потребовалось AlphaZero, чтобы научиться играть в шахматы, подготовиться к матчу с Stockfish 8 и развить у себя гениальную интуицию? Четыре часа. Это не опечатка. Столетиями шахматы считались одним из высших достижений человеческого разума. Программа AlphaZero за четыре часа без какой бы то ни было помощи со стороны человека проделала путь от полного незнания до вершин мастерства[27 - ‘Google’s AlphaZero Destroys Stockfish in 100-Game Match’, Chess.com, 6 December 2017, https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match (https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match), accessed 11 February 2018; David Silver et al., ‘Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm’, arXiv (2017), https://arxiv.org/pdf/1712.01815.pdf (https://arxiv.org/pdf/1712.01815.pdf), accessed 2 February 2018; see also Sarah Knapton, ‘Entire Human Chess Knowledge Learned and Surpassed by DeepMind’s AlphaZero in Four Hours’, Telegraph, 6 December 2017, http://www.telegraph.co.uk/science/2017/12/06/entire-human-chess-knowledge-learned-surpassed-deepminds-alphazero/ (http://www.telegraph.co.uk/science/2017/12/06/entire-human-chess-knowledge-learned-surpassed-deepminds-alphazero/), accessed 11 February 2018.].