Теоретики придумывают всякие «этические задачки» типа проблеммы (дилеммы и проблемы одновременно) заключённого на вагонетке:
Вагонетка, наполненная любимыми вами людьми, несётся по рельсам в направлении другого любимого вами человека, который привязан к рельсам. Вы можете перевести стрелку, и тогда вагонетка уйдёт на запасной путь, который безопасен. Проблемма в том, что с другой стороны запасного пути стоит такой же бедняга, у которого по путям несётся такая же вагонетка. Если вы оба выберете переключить стрелку, в обеих вагонетках погибнут все. Что вы выберете – переключить стрелку или не переключать, убив одного своего любимого человека?[50 - https://zen.yandex.ru/media/aiqcnt/myslennyi-eksperiment-problemma-zakliuchennogo-na-vagonetke-5d120842e8766c05caf81817 (https://zen.yandex.ru/media/aiqcnt/myslennyi-eksperiment-problemma-zakliuchennogo-na-vagonetke-5d120842e8766c05caf81817)]
Подобные ситуации изучают уже не только для советов, как поступать людям (понятно, что в жизни ситуации будут и динамичней, и сложней, и такого чёрно-белого выбора не будет – всегда будет разнообразие выборов, один другого хуже). Но вот такие вопросы начинают возникать и в отношении искусственного интеллекта. И иногда в формулировках чуть ли не буквально из задач про вагонетку – речь идёт о беспилотных автомобилях, тех самых вагонетках, которые сами себе стрелочники и могут направить себя вместе с пассажиром на пешеходов, чтобы спасти пассажиров за счёт пешеходов, или в столб, чтобы спасти пешеходов за счёт пассажиров. Люди из MIT решили выяснить, что думает человечество на эту тему, и построили «моральную машину»[51 - https://moralmachine.mit.edu/hl/ru (https://moralmachine.mit.edu/hl/ru)], собравшую 40млн. ответов на подобные вопросы. Оказалось, что ответы в разных странах отличаются, представления об этике разнятся в разных странах[52 - http://news.mit.edu/2018/how-autonomous-vehicles-programmed-1024 (http://news.mit.edu/2018/how-autonomous-vehicles-programmed-1024)].
Сегодня опять-таки в связи с исследованиями искусственного интеллекта поднялся вопрос об этической предвзятости общества. В литературе, в мозгах людей глубоко укоренены этические привычки, которые сегодня могут быть сочтены вредными. Кем сочтены?! Ну, например, «передовым этическим меньшинством». И большинство населения при этом будет объявлено неэтично себя ведущим – расистами, сексистами, неполиткорректными, имя им миллион.
Вывод: этику нужно изучать в явном виде, по работам профессионалов, а не путём чтения блогов в социальных сетях и выслушивания своих знакомых.
Нужно быть разборчивым в целях.
Нужно быть разборчивым в средствах.
Нужно всё время задавать себе вопрос: «Кому нужно? Кто сказал? Почему плохо это не делать?», когда встречаешь модальный оператор («нужно», «можно»). Да, к этому тексту такое поведение тоже относится.
Закрывать глаза на этику нельзя, в этой области тоже есть SoTA, и тоже нужно получить образование.
Т-люди: глубокие прикладники, но с широким кругозором
Концепция T-людей (T-shaped persons, часто T-shaped skills) существует ещё с 80-х, когда МакКинси использовала её для набора и развития своих консультантов[53 - https://en.wikipedia.org/wiki/T-shaped_skills (https://en.wikipedia.org/wiki/T-shaped_skills)]. Вертикальная чёрточка в T обозначает мастерство в какой-то прикладной практике, а горизонтальная чёрточка обозначает, способность сотрудничать по широкому спектру дисциплин, и умение применить свои глубокие «вертикальные» знания и умения в смежных дисциплинах.
Концепция Т-людей стала популярна, и породила множество образовательных проектов, например, в 2012 году проект NEF (New Engineering Foundation Великобритании) так и названный: Т-образное обучение (T-shaped Learning)[54 - https://stemfoundation.org.uk/asset/resource/%7B3EA5228A-B620-4783-AE91-190F2C182DAA%7D/resource.pdf (https://stemfoundation.org.uk/asset/resource/%7B3EA5228A-B620-4783-AE91-190F2C182DAA%7D/resource.pdf)]. В этом проекте предлагалось сделать NEF Т-образного технаря (Technologist не «технолог», он именно «технарь»). Такой Т-образный технарь заявлялся как новый тип человека, получаемый путём нового типа обучения, T-образного обучения. Проект NEF должен был организовать выпуск T-образных технарей.
Вот так это представлялось картинкой:
• Вертикальная палочка для Т: техническое/прикладное знание и опыт – по большей части специфичные для технической дисциплины, определяются отраслью или экосистемой. Они включают know-how (практическое мастерство), но также и know-why (которую определяли как знания из набора теоретических предметов STEM[55 - https://en.wikipedia.org/wiki/Science,_technology,_engineering,_and_mathematics (https://en.wikipedia.org/wiki/Science,_technology,_engineering,_and_mathematics)], то есть физику, математику, информатику и т.п.). Это специальные знания и умения, нужные для конкретного прикладного мастерства. Если речь идёт о космосе, то это знания инженерии орбитальных систем, радиационной защиты космических кораблей, и т. д.
• применимые повсеместно (transferable, не зависящие от типа проекта) профессиональные навыки и умения/skills – сфера организационных отношений, а также навыки и умения по передаче знаний из исследований в разработку (knowledge transfer) и умения в инновациях (превращении исследований в успешные на рынке продукты).
• применимые повсеместно личные (personal) качества – включая предпринимательство и инициативу, поведение и отношения, некоторые из которых кажутся весьма туманными характеристиками.
Вместе эти три элемента должны давать людей, которые добиваются результативности в своих карьерах за счёт того, что могут работать в условиях нечётко определённых границ дисциплин и требуемого опыта: они могут разобраться в сложной проектной ситуации, им для этого хватает знаний по организации командной работы (чтобы понимать происходящее), у них есть какой-то «калибр личности», чтобы быть собранными, а не инфантильными и невнимательными, проявлять разумную инициативу, быть честными и работоспособными.
Т-технари умеют не только вписываться в проект и проявлять там инициативу, они ещё имеют техническое знание и опыт для технической работы, показывают своё прикладное мастерство. Если речь идёт о езде на велосипеде, то они не только вызовутся отвезти ребёнка в дождь на багажнике (личные качества) и разберутся, где и кто в этой организации выдаёт велосипеды (применимые повсеместно профессиональные навыки), но и реально смогут безопасно проехать ночью в дождь по грунтовой дороге и довезти ребёнка безопасно (прикладное/техническое мастерство).
Такие же идеи есть про Т-менеджеров, которые глубоко знают прикладные практики менеджера (операционный менеджмент, финансовый контроллинг, организационное развитие и т. д. – прикладное мастерство), но ещё и понимают, что делают в проекте разные люди (применимые повсеместно навыки и умения), а также обладают непревзойдёнными личными качествами, собраны и честны. И это позволяет Т-менеджерам быть «номенклатурой», то есть быть применимыми в самых разных сферах деятельности.
Обычно техническому знанию и опыту учат в магистратуре. Именно это и считают высшим образованием – первым, вторым, третьим. Несколько высших образований получить легко. За десяток лет не особо напрягаясь их можно получить пять, по паре лет на каждый вид прикладного мастерства.
Применимым повсеместно профессиональным знаниям и умениям и личным качествам учат в бакалавриате: входишь туда школьником, выходишь уже более-менее подготовленным к жизни, собранным человеком.
Беда в том, что бакалавриат люди не заканчивают второй-третий раз, как магистратуры. То есть общие для всех проектов знания и умения, личные качества остаются на прежнем уровне, как у остановившихся в развитии зверюшек после взросления, а рост идёт только о прикладном мастерстве, технических знаниях и опыте – но на морально стареющем год от года личностном фундаменте.
Появляется ситуация, в которой знания а хоть и пятого высшего образования укладываются на фундамент бакалавриата, полученного десятки лет назад – то есть речь идёт о личных качествах и применимых повсеместно навыках, полученных двадцать или даже тридцать лет назад! Получается эдакий молодящийся старик: прикладная часть, технарство у него современное, а личность и ожидаемое им устройство командной работы – антикварные.
Предобучи, потом подстрой/pretrain then finetune
Какой-то аналог этой ситуации с общим обучением в бакалавриате и потом обучением целевому прикладному мастерству в магистратуре может быть подсмотрен в исследованиях по искусственному интеллекту. Там ведь стоит такая же задача по обучению нейронной сети самым разным прикладным умениям (о мастерстве тут говорить сложно: оно подразумевает личное отношение к делу, в отличие от знаний, навыков, умений, которые демонстрируются вне связи с личным отношением). Говорят об этом обучении ровно тем же языком, которым говорят об обучении людей. Но говорят точнее, ибо математиков в сфере AI больше, и решают задачи более трудные: компьютеры научить интеллекту труднее, чем людей. Поэтому мы активно будем делать «реэкспорт» идей из сферы AI в образование – после того как люди из AI взяли эти идеи из образования, почистили и обогатили их, мы возьмём их и опять применим к обучению людей.
Текущий тренд в работе нейронных сетей с естественным языком – это использование так называемых языковых моделей. Берётся огромная пустая нейронная сеть, и ей скармливается огромное/gargantuan число самых разных текстов на всех доступных языках (википедия там только маленькая часть). В этих текстах отражены какие-то свойства языков в целом (кормят текстами отнюдь не только одного языка), а также свойства мира (ибо все эти тексты о чём-то в мире, речь не идёт о фантастике и сказках). Нейронная сетка выучивает из всех этих текстов что-то общее про языки и мир. Это называется pretrain, предобучение. И занимает это предобучение довольно много времени и денег – одна предобученная языковая модель на середину 2020 года может обходиться в десятки миллионов долларов[56 - https://arxiv.org/abs/2004.08900 (https://arxiv.org/abs/2004.08900)]. Бакалавриат для нейронных сетей весьма недёшев.
Предобучение даёт нейронной сети какие-то знания о языке и мире, но языковая модель сама по себе не может при этом решать никаких прикладных задач. Про задачи и конкретные предметные области эта сеть ничего не знает. Так что потом идёт finetune, подстройка: берётся эта безумно дорогая языковая модель и очень быстро и дёшево доучивается решать одну или даже десять разных прикладных задач. Фишка в том, что дорогое предобучение делается один раз, а потом подстройка делается легко и быстро каждый раз.
За последний год такой подход предобучения + настройки стал мейнстримом в AI[57 - Pretrain then Finetune: A New Paradigm for NLP – https://www.mihaileric.com/posts/nlp-trends-acl-2019/ (https://www.mihaileric.com/posts/nlp-trends-acl-2019/)]. Для очень больших и поэтому очень дорогих языковых моделей подстройка идёт ещё быстрей и дешевле – на подстройку сети нужно давать в десятки и сотни раз меньше данных, предобученная большая сеть оказывается не такой уж тупой[58 - https://arxiv.org/abs/2005.14165 (https://arxiv.org/abs/2005.14165)].
В бакалавриатах по всей планете занимаются предобучением нейронной сети человека. Это предобучение формирует у студентов самые общие фундаментальные знания о мире. Язык-другой ко времени прохождения бакалавриата все уже знают, текстов прочли много, именно языковой модели учить не нужно, но вот надёжной и компактной модели мира и себя, паттернов эффективного мышления у большинства людей нет – вот им и учат, предобучают «мокрую нейросетку» студентов. При этом ещё и хорошо структурируют материал, что в мире AI только-только собираются делать с использованием графов знаний/knowledge graphs или других символьных методов. С людьми тут проще, это же не изначально тупые компьютеры!
Получение прикладного (инженерного, менеджерского, предпринимательского, врачебного, педагогического и т.д.) мастерства на базе предобучения – это лёгкая и быстрая подстройка, она делается в магистратуре. И чем тщательней выполнено предобучение, тем проще идёт подстройка.
По факту речь идёт о чём-то типа операционной системы для аппаратуры мозга. Предобучение – это прошивка, оживляющая аппаратуру мозга какой-то версией модели мира, какими-то фундаментальными знаниями, пригождающимися во многих проектах, помогающими ориентироваться в командной работе. И после такой прошивки в мозг потом просто устанавливаются прикладные дисциплины, дающие прикладное мастерство. Как с телефонами: мозг желательно помощнее, прошивку поновее, и любые приложения на нём будут ставиться в полпинка, летать и даже работать одновременно, не мешая друг другу (а то и помогая).
Без не слишком дешёвого, не слишком быстрого, ни разу не прикладного (наборот: общего для всего прикладного!) качественного предобучения никакой лёгкой подстройки не будет.
Ключ к качественному современному образованию – качественный современный бакалавриат. Этот бакалавриат должен дать общие для всех видов прикладного мастерства свойства личности (например, собранность и честность), а также знания и умения. Дисциплины этого бакалавриата сильно отличаются от традиционных вузовских «высших математик» с «историей философии», хотя тут мы немного забегаем вперёд и дальше рассмотрим подробней:
• модель мышления о себе, мире и описаниях мира (методологические дисциплины – онтологика, системное, научное, вычислительное мышление),
• модель человеческой деятельности (деятельностный кругозор – системная инженерия, менеджмент, предпринимательство)
• модель себя, любимого: как обходиться с собственной психикой и телом (когнитивистские дисциплины – собранность психики и тела)
Предобучение людей, как и предобучение нейронных сетей – это долго, дорого и малопонятно в части изучаемых предметов. Бакалавриат занимает обычно четыре года интенсивного обучения, из них пару лет даже лишнего, ибо часть времени уходит не на предобучение, а на обучение уже каким-то прикладным видам мастерства, которые потом не пригодятся. Вы научитесь работать на аппаратуре, которой никогда не встретите потом в жизни, моделировать на языках, с которыми тоже в жизни потом не встретитесь – но вас в бакалавриате этому всё равно научат.
А подстройка после бакалавриата? Подстройку могут дать тысячи и тысячи прикладных учебных заведений с их магистратурами, это пара лет вечерних занятий. Это дёшево, это быстро, это понятно.
Основной аргумент Болонской системы, в рамках которой и происходит разделение бакалавриата и магистратуры – это возможность за четыре года стать зрелой личностью, чтобы потом осмысленно выбрать прикладную магистерскую программу.
Если у тебя ещё нет надёжной модели мира в голове, модели себя, модели сфер деятельности, то как ты будешь осмысленно и осознано выбирать прикладные области для своего развития, прикладные проекты, которыми будешь заниматься? Выбор будет не осознанный, а случайный. Болонская система это учитывает, в отличие от специалитета, где ты должен выбрать «профессию мечты» как можно раньше.
Если специализация происходит слишком рано, как в советских специалитетах, то вместо предобучения получается сразу подстройка сырых мозгов – и надёжной образовательной платформы для последующей переспециализации не будет. Три из пяти лет могут быть потрачены на изучение машиностроения в рамках специалитета (пять лет обучения прикладному мастерству, без «неприкладного» бакалавриата), но через три года окажется, что интереса к машиностроению у человека нет, и он хочет стать операционным менеджером в сфере информационных технологий. Три года были потрачены зря на подстройку к машиностроению, а предобучения так и не произошло. Поэтому потом вместо пары лет на переучивание в другой магистратуре у недоученного машиностроителя уйдет куда больше времени на освоение новой специализации: у него не было полноценного бакалавриата, не было полноценного предобучения. Подстройка его «мокрой нейронной сети» будет трудна, займёт много времени.
Если хочется меньше тратить времени жизни как цикла бесконечного совершенствования на постоянную наработку новых видов прикладного мастерства магистерского или даже докторского уровня, нужно потратить больше времени на образовательный фундамент, на ни разу не прикладное предобучение уровня бакалавриата. Зачем учиться тому, что потом не будет очевидным образом приложимо на практике? Затем, чтобы потом быстрее научиться приложимому на практике. И ещё раз научиться, и ещё раз научиться – всё время подучиваться, ибо набор мастерства – это непрерывное доучивание, набор опыта. Если у вас личность достаточного калибра, то набор самого разного мастерства будет быстрым.
Увы, не все учебные программы бакалавриатов выстроены так, чтобы дать человеку общее образование, позволяющее ему потом легко специализироваться в сотнях и тысячах возможных практиках. Эти учебные программы нужно специально проектировать как программы предобучения[59 - Школа системного менеджмента https://system-school.ru/ (https://system-school.ru/) специально нацеливает свои программы на предобучение. Прикладными дисциплинами всегда можно будет заняться в других учебных заведениях, а вот знания уровня бакалавриата, специально предназначенные для последующего быстрого набора прикладного мастерства – это только в ШСМ.].
Театральная метафора
Чтобы стать действующими лицами в проектах, людям как исполнителям ролей нужно занять в них какие-то роли (менеджера, архитектора, видеографа). Театральная метафора – это когда мы играем проект как пьесу, в которой известно кто что делает, то есть кто играет какую роль.
В проекте вы обязательно встретите командную работу, и должны чётко отличать исполнителей ролей в этой командной работе от действующих лиц. Васю, который играет роль Принца Гамлета от собственно Принца Гамлета. Петю, который играет роль инженера по требованиям от собственно инженера по требованиям. В команде Петя – это не Петя, он инженер по требованиям. Видеть разницу между Петей и его ролями, а затем между самим собой и своими ролями – этому нужно учить специально.
Эти роли не выдумываются произвольно. Они культурно обусловлены. Вы не придумываете роли инженера по требованиям и операционного менеджера. Они как бы прописаны современным производственным укладом. И их исполнители играют эти роли более-менее одинаково в самых разных проектах. Эту игру, как и игру актёров, нужно уметь распознавать и уметь оценивать её качество. Принц Гамлет в исполнении актёра Королевского театра в Лондоне и в исполнении соседского мальчишки в школьном спектакле – это разное качество игры. Начальник, играющий роль операционного менеджера, может играть эту роль гениально, а может не лучше, чем мальчишка в школьном спектакле. Этот же начальник в роли менеджера по продажам может иметь совсем другое исполнительское мастерство, нежели он же в роли операционного менеджера – с разными ролями он будет знаком по-разному. Для оценки качества игры ролей у себя и других, нужно быть знакомым с репертуаром этих ролей. Если вы не читали пьесу, не знаете реплик, не понимаете целей своего персонажа – играть вы будете плохо, даже если как актёр вы гениальны.
Лидерство – это дисциплина менеджмента, в которой учат катализировать сотрудничество. Лидер как режиссёр в театре имеет мастерство в помощи исполнителям войти в свои роли в проекте. Но вот актёров учат и собственно актёрскому мастерству – как им безопасно входить в роль и выходить из роли, выбирать роли для себя, учить роли. В корпоративном мире людей учат только лидерству (режиссёрскому), но не ролевому (актёрскому) мастерству. И когда собираются в комнате совещаний двадцать лидеров, получивших подготовку по убалтыванию друг друга занять какую-то роль, но не имеющие никаких навыков по занятию и удержанию собственных ролей – получается не очень хорошо. Спектакли играются не режиссёрами, проекты делаются не лидерами. Нужны актёры, квалифицированные исполнители требуемых спектаклем или проектом ролей! Работа режиссёра и лидера уже сделана, когда идёт спектакль или проект!
Какие роли нужно занимать в проекте, как о них думать, как их распознавать? Тем более что ситуация сложней, чем в театральном спектакле: один человек в маленьких организациях может играть множество проектных ролей, а в крупных организациях одну роль будет играть множество человек. И роли можно рассматривать в проекте, в деятельности, в организации – везде это роли, но есть нюансы.
Как думать о ролях в проекте по созданию систем (а в конечном итоге все проекты оказываются проектами по созданию успешной той или иной системы) подробно описывается в учебнике «Системное мышление»[60 - https://ridero.ru/books/sistemnoe_myshlenie/ (https://ridero.ru/books/sistemnoe_myshlenie/)].