Интеллект-стек 2023

Чуть другими словами: является ли сам общий/широкий/сильный интеллект мастерством, учитывая то, что интеллект вроде как порождает прикладное мастерство «по потребности»? Да, в той мере, что интеллект является сам по себе выполнителем каких-то уже выученных/исследованных практик онтологии, логики, создания объяснений и т. д. как фундаментальных мыслительных практик. Мы называем поэтому общий интеллект – мыслительным мастерством, а практики интеллект-стека – практиками мыслительного мастерства. Практики мыслительного мастерства базируются на мыслительных/фундаментальных дисциплинах, а чтобы показать, что они задействованы для создания прикладного мастерства (из времени создания!) мы назовём их трансдициплинами (но будем избегать называть их транспрактиками, хотя это было бы очень удобно. Но слишком непривычно).

Общий интеллект занимается порождением/изготовлением/выучиванием/познанием прикладного мастерства/skills/компетенции, хотя его можно направить и на порождение новых версий какого-то мыслительного мастерства (ровно этим занимаются люди-логики, люди-онтологи, люди-этики, люди-методологии и т.д.): весь их могучий общий интеллект направлен на улучшение SoTA какой-то мыслительной практики, улучшение SoTA мыслительного/фундаментальное мастерства, дающего точное и быстрое мышление этой практики.

Тут ещё может помочь (или запутать, для кого как) понимание того, что носителем мастерства является уже мастер: агент, который имеет в себе прикладной вычислитель, умеющий проводить вывод/рассуждения/вычисления согласно каким-то объяснениям/алгоритму. Мастерство при этом понимается и как программа/алгоритм выполнения практики/деятельности: с одной стороны это описание, которое требует носителя (мастера), с другой стороны это исполнение программы/алгоритма – физический процесс, разворачиваемый во времени. И вот условно можно считать, что мастер – это мастерство плюс тело плюс инструменты, и тем самым становится проще говорить про выход мышления, коммуникации и рассуждений в реальный мир. Мастерство, понимаемое исключительно как «информационное вычисление, не выходящее деятельностно в мир» обеспечивается кусочком мозга мастера, а мастер в целом (с телом) плюс ещё и его инструменты (экзотело) выполняет деятельность/практику, трудится, то есть меняет мир, достигая цели практики/труда. А ещё есть время изготовления – и тогда мастерство ещё не готово, идёт познание/мышление или обучение, а роль агента не мастер, а исследователь или студент. И оговорка: у слова «мастер», как и у слова «студент», конечно, есть и другие значения, поэтому будьте внимательны. Например, «мастер» может быть именем не только роли агента как носителя какого-то прикладного мастерства (например, «Петя – мастер орг-проектирования»), но и именем квалификации, например, «Петя – мастер по оценке ШСМ[52 - https://system-school.ru/qualification (https://system-school.ru/qualification)]».

В обыденной речи мы услышим всё это сильно перепутанное: мир будет менять и мастер, и мастерство, и мышление, и исследования, и знание – но общее рассуждение будет оставаться примерно тем же самым. Разобраться точнее, о чём говорится в каждом конкретном случае, в каждой конкретной ситуации, помогут практики семантики, теории понятий, онтологии в частности, и практики интеллект-стека в общем.

Интеллект и прикладное мастерство неразрывны, мышление и прикладное рассуждение тесто переплетены

Интеллект и прикладное мастерство неразрывны, ибо в разных практиках/алгоритмах познания тесно переплетено мышление как поиск новых объяснений (более высокий уровень вычислений) и рассуждения по уже объяснённому материалу (более низкий уровень вычислений, подчинено целям входит в состав мышления).

В сложных когнитивных архитектурах[53 - «Болваны для искусственного интеллекта», https://ailev.livejournal.com/1356016.html (https://ailev.livejournal.com/1356016.html)] рассуждения/вывод/inference и познание/learn существенно переплетены в разных алгоритмах, они задействуются на разных уровнях мышления/вычисления. Например, в искусственном интеллекте на базе нейронных сетей часто используют отдельные сетки: сетку-учитель и сетку-студент, которые учатся по-разному и ещё и учат друг друга (учат – это значит не познают сами, а просто используют имеющиеся у них знания для рассуждений/вывода). В разных вариантах архитектур GAN (generative adversarial network, порождающая противоборствующая сеть) это две нейронных сети: сетка-генератор и сетка-дискриминатор, которые тоже вместе познают, но внутри они ещё и занимаются прикладным выводом на базе познанного на текущий момент – накапливают мастерство решения задачи порождения заданных объектов, мастерство творчества!

В эволюционных алгоритмах и алгоритмах обучения/познания с подкреплением в машинном интеллекте тоже в рамках всех вычислений есть и производимый текущим изготавливаемым мастерством прикладной вывод, и какая-то поисковая активность. Иногда об этой поисковой активности говорят как об исследованиях/exploration, противопоставляя эксплуатации/exploitation как использованию уже наисследованного.

Вот это разделение на exploitation и exploration относится не только к вычислениям и использованию уже известных знаний, чисто информационной работе без выхода в мир. Это полностью применимо и к действиям в мире, то есть возможности изменения вычислителем с датчиками и актуаторами окружающей вычислитель среды. Мы одновременно воспринимаем кусочек изменяемого мира нашими органами чувств/машинными датчиками, вычисляем/думаем/рассуждаем и изменяем окружающий мир нашими актуаторами.

Мы уже упоминали, что иногда разницу между вычислениями и действиями с их участием подчёркивают, а иногда наоборот, считают их едиными и неразделимыми – extended cognition, embodied mind и другие подобные идеи). Поэтому интеллект и мастерство (в том числе мыслительное мастерство – мастерство в вычислениях по алгоритмам отдельных трансдисциплин, требуемых для познания) иногда относят чисто к «вычислениям» при выполнении практик, а иногда к «вычислениям и изменениям мира», то есть к самим практикам. В любом случае, надо помнить положения подхода «деятельных рассуждений» (active inference):

• Все самые разные агенты (от молекул до человечества) пытаются минимальными действиями минимизировать неприятные сюрпризы, угрожающие стабильности их существования

• Планирующие агенты при этом планируют и проводят изменения четырёх возможных объектов: модели мира, модели себя, мира, себя.

• Для этого агенты улучшают свои возможности моделирования мира и себя, возможности изменения мира и себя, то есть применяют интеллект в ходе многоуровневого обучения.

Иногда особо оговаривают, что «мыслительные практики», «практики рассуждений», «практики коммуникации» имеют дело строго с информацией и вычислениями как изменением информации в какой-то памяти, причём оговаривают, что эти вычисления не затрагивают реальный мир («себя» как вычислителя и окружающую среду). Тут нужно быть внимательным: никакие вычисления не производятся сами по себе, «в вакууме», из ниоткуда в никуда. Они всегда производятся с моделями, как-то отражающими мир абстракций и/или физический мир. Все вычисления привязаны тем самым в конечном итоге к практикам по изменению мира, они проводятся автономными агентами, имеющими какие-то цели. И эти агенты обладают устройствами ввода-вывода информации для вычислений, никакое вычисление не может быть сделано без входной информации, или проведено без вывода информации.

Примеры самых разных под-вычислителей (компетенций, мастерства разных видов) в составе других вычислителей можно приводить и приводить, и каждый раз нужно помнить, что речь идёт о физических вычислителях, функционирующих в составе какого-то (разумного или не очень, например, кошки или AI) агента, который в свою очередь действует совместно с другими агентами в физическом мире, занимается деятельностью/практиками.

Есть ещё и проблема алгоритмической многоуровневости (одни вычисления внутри других) и цепочечности (одни алгоритмы/программы/правила/знания/объяснения изготавливаются по длинной цепочке/pipeline вычислений другими алгоритмами/программами/правилами/знаниями/объяснениями в рамках одного и того же, или даже разных вычислителей). При выходе на уровень трансдисциплин это проявляется как плохое понимание прикладных рассуждений в рамках системного мышления как познающего мышления, это ж «вывод внутри познания», «простые рассуждения внутри работы интеллекта», признание того, что в составе интеллекта тоже есть мастерство! Это обычное дело в информатике: разобраться, что там «внутри», а что «снаружи» каких-то вычислений трудно (для разработчика прикладной программы операционная система вроде как «снаружи программы», но разработчики операционной системы считают, что программа как раз внутри их системы. Framework и library вроде как обозначают одно и тоже, но прикладной код вызывает library, но вызывается сам из framework. Так и тут в общем случае универсальных алгоритмов интеллекта и мастерства: при проблемах в рассуждениях в прикладном мастерстве вызывается интеллект, а при проблемах в познании в интеллект вызывается то или иное трансдисциплинарное (а иногда и прикладное) мастерство. И чтобы было что вызвать, этим мастерством нужно овладеть: или «импортом» от тех, кто им уже владеет и в состоянии внятно передать знания (в том числе через отчуждённые теории/модели/дисциплины/объяснения), или получить самостоятельно в результате исследований.

Интеллект и прикладное мастерство участвуют совместно в некотором цикле развития: ибо если нет проблем, то не нужно и познание, интеллект включать не нужно. А если проблема есть, то она будет решена, и цикл повторится – новая проблема обязательно появится, мир ведь не стоит на месте!

Проблематизация (обнаружение и «заострение», более строгая формализация противоречия) проявится как обнаружение невозможности рассуждений по правилам текущих лучших (SoTA) версий прикладных дисциплин, на понятийной базе объяснений которых идут эти рассуждения. И тогда подключается интеллект с входящим в него мыслительным мастерством рассуждения с набором понятий трансдисциплин/учений, чтобы преодолеть эту невозможность рассуждений из-за обнаруженных противоречий в прикладных дисциплинах, прикладном мастерстве.

Получается, что в мире есть некоторый набор очень похожих по содержанию, но различающихся по терминологии и акцентам в ответах на те или иные деятельностные интересы теорий/идей/объяснений интеллекта и мышления, мастерства (в том числе мыслительного мастерства), быстрых интуитивных и медленных осознанных рассуждений с использованием каких-то правил и шаблонов, практик и их дисциплин, трансдисциплинарности[54 - https://en.wikipedia.org/wiki/Transdisciplinarity (https://en.wikipedia.org/wiki/Transdisciplinarity)], агентности как умения ставить цели и планировать их достижение, в том числе корректировать планы для достижения целей в кооперации с другими агентами. В основе хорошо поставленного мышления (хорошо развитого интеллекта, мастерства мыслить – это об одном и том же) лежит не просто интеллект, а тщательно предобученный интеллект (человека, машины или группы людей с машинами – это не так важно).

И дальше можно ожидать, что такой интеллект, полученный каким-то многоступенчатым и длительным предобучением, будет быстро «изготавливать» мастерство, демонстрирующее высокую квалификацию в какой-то деятельности, включая качественные рассуждения по правилам и с объектами, которые есть в прикладной теории/дисциплине/модели этой деятельности.

При написании нашего курса «Интеллект-стек» была проделана примерно такая же работа, которая была сделана при создании и развитии курса системногоу мышления. Для курса системного мышления были вытащены разные фрагменты знания о системах и правилах рассуждений о них из инженерных и отчасти менеджерских стандартов, терминология гармонизирована и всё это было изложено в виде связного текста. Это всё была методологическая работа (методология помогает изложить методы/способы какой-то работы, в данном случае методы/способы системного мышления как мышления «системного интеллекта», решающего проблемы с использованием понятий системного подхода). И ещё было проведено относительно немного методической (облегчающей восприятие студентами) работы. Похожая работа была сделана Дэвидом Дойчем в книге «Структура реальности» по поводу вытаскивания и гармонизации основных понятий из четырёх теорий/объяснений (Дойч называет их «сюжетными линиями» объяснительного повествования) структуры вселенной: квантовая физика, эпистемология, теория эволюции и вычисления, которые невозможно понять без учёта их тесной связи. Вот и у нас оказывается, что интеллект и прикладное мастерство и их мышление и прикладные рассуждения нельзя понять без учёта тесной связи трансдисциплин, как-то алгоритмизирующих работу общего интеллекта.

Общий интеллект, который подробно определял Chollet в своих работах, оказался состоящим не из какого-то мастерства, а из набора широких способностей/broad abilities по научению своего носителя/владельца каким-то навыкам и умениям/skills, которые мы по-русски называем мастерством. А уже это приобретённое в обучении (по литературе, или с учителем, или просто методом проб и ошибок плюс рассуждений в поисках объяснений в ходе каких-то проектов) мастерство решает задачи, и это уже будет не общий интеллект и не его часть как мыслительное мастерство, а прикладной интеллект и прикладное мастерство.

Интеллект тем самым оказывается не про решение задач! Экскаватор решает задачи копания, калькулятор решает задачи счёта, и это мы не считаем интеллектуальным! Интеллект включается там и тогда, где и когда в ходе обычного решения задач встречается что-то необычное, новая проблема, решениям которой его ещё не учили, и наш решатель задач вынужден научиться чему-то новенькому. Мышление/познание нужно в этот момент. Всё остальное – это «просто вычисления», какие-то прикладные рассуждения, но не познание/мышление. При ответе на вопрос «сколько будет 2*2» человек вспоминает, рассуждает, но не мыслит!

У СМД-методологов проводилось очень похожее различение, они делили «работу мозгами и телом» на «чистое мышление» (похожее на то, как мы это обсуждаем по мотивам работ Chollet), мыслекоммуникацию (поскольку мышление обычно происходит в ситуациях коллективной деятельности в разного рода проектах) и «мыследействование» (похожее на автоматическую работу сделанного/обученного интеллектом устройства – каких-то остальных частей мозга и тела, взятых вместе).

Экскаватор копает и встречает огромный валун под землёй, калькулятор встречает необходимость перемножения чисел, записанных прописью – без внешнего управления они просто остановятся, или будут совершать глупые действия.

Человек, если его натаскать на какой-то узкий/прикладной класс задач, получает умение, приобретает в нём навык/компетенцию/skill, то есть какой-то кусочек мозга превращает в прикладное мастерство – и будет решать их довольно эффективно. Интеллект тут ему нужен будет только в момент обучения, когда мастерства ещё нет. Задачи же того класса, которому его обучили, он будет решать «на автомате», это уже не требует интеллекта. Способность к отращиванию себе нового навыка, нового автоматизма по решению задач – вот в чём умность! Человек способен отрастить себе навыки и умения от требующихся в инженерии до требующихся в менеджменте, от требующихся в исследованиях до требующихся в медицине. Котёнок этого не может, у него интеллект слабее. Нейронные сети – могут, но некоторые классы задач им даются с огромным трудом. Например, «базовое знание» (core knowledge, умение распознавать абстрактные паттерны/закономерности, не требующее даже знания естественного или искусственного языка) по Chollet[55 - https://lab42.global/arc/core-knowledge/ (https://lab42.global/arc/core-knowledge/)] оказывается плохо доступным для нейросетей, в мае 2023 года лучший результат по набору тестов ARC показывался в 31% решённых задач, в то время как люди решают 80% таких задач. На эту тему проводится хакатон по созданию машинного интеллекта, способного решать такие задачи[56 - https://lab42.global/arcathon/ (https://lab42.global/arcathon/)], и что-то там пока не видно особых улучшений в результатах[57 - https://lab42.global/arcathon/leaderboard/ (https://lab42.global/arcathon/leaderboard/)].

Человек с интеллектом будет над задачами нового класса задумываться – и находить решения, нарабатывать себе новые умения/виды мастерства (использовав для этого учебники, привлекая учителя, или даже просто методом проб и ошибок, приобретая опыт в «исследованиях»). Или он не сможет приобрести нужное умение/мастерство, или приобретёт, но за пять лет, а не за пять минут. Повторим: интеллект – это вычислитель, дающий эффективность в научении какого-то кусочка агента (будущее «мастерство») решению какого-то класса прикладных задач. Более сильный/общий интеллект, демонстрирующий более сильное/общее мышление даёт скорость в создании/отращивании/выучивании/познании самых разных умений (общий/широкий/сильный интеллект – «самые разные умения»), это «способности к получению мастерства», а не конечный прикладной навык, набор видов какого-то прикладного мастерства. Хотя, конечно, можно говорить и об интеллекте как связной совокупности особых видов мастерства рассуждений по теориям/объяснениям/дисциплинам, помогающим создавать какое-то прикладное мастерство. Мы называем такие дисциплины трансдисциплинами, или мета-дисциплинами, или фундаментальными дисциплинами: они помогают получить другие дисциплины, которые потом лягут в основу прикладных практик, которые будут выполняться прикладными видами мастерства.

Скажем, в состав интеллекта мы включаем способность логически («логически» – это в соответствии с идеями математической логики, идеями причинного обновления/causal inference) рассуждать, ибо логика – это трансдисциплина, которая используется во всех рассуждениях при любом мастерстве – в том числе требуется логично рассуждать о самой логике! Логическое мастерство трансдисциплинарно, оно просто входит (наряду с мастерством в других трансдисциплинах – системном мышлении, эпистемологии и т.д.) в интеллект. А вот мастерство игры на гитаре или мастерство готовить кашу не входят в общий интеллект, поэтому мы иногда говорим не только о логичных рассуждениях, но и о логичном мышлении, но не говорим «гитарное мышление» или «кашеварное мышление», а только «рассуждения по игре на гитаре» и «кашеварные рассуждения». Но если сделать шаг в сторону расширения классов решаемых задач, то «музыкальное мышление» вполне можно уже сказать, равно как и «кулинарное мышление».

Конечно, можно выделить много серых зон, где размыта граница между широким интеллектом как «мастерством во всём» («талантливый человек талантлив во всём» – это как раз про интеллект) и прикладным мастерством как узким/прикладным интеллектом.

Бытовой язык по поводу любых рассуждений/вычислений говорит «мышление», при этом часто ещё и ограничиваясь только человеческими вычислениями в мозге и исключая компьютерную часть. Мы постоянно подчёркиваем, что современный человек по факту никогда не мыслит только «внутри головы», всегда используется экзокортекс, всегда идёт коммуникация с другими людьми!

Бытовое использование терминов, которые мы использовали при рассказе об интеллекте и мышлении

Предложенные понятия и термины для них в нашем рассказе об интеллекте и мышлении, мастерстве и рассуждениях более-менее совпадают с традиционным «бытовым» словоупотреблением, они как-то представлены в культуре. Но это не означает, что с этой терминологией не будет ошибок. Нужно всегда помнить, что в словарях недаром у каждого слова приводится множество значений в разных словарных гнёздах, и смысл говоримого приходится уточнять не по словарям, а исходя из каждой ситуации использования в тексте или речи тех или иных слов. Смысл в использовании слов, а не в словарях!

Например, «познание» цепляет где-то в памяти ассоциации с когда-то (обычно много лет назад) читанными представлениями об эпистемологии/научном мышлении (а то и гносеологии, включающей ещё и религиозное, и художественное «познание»), «вывод» и «рассуждения по правилам» цепляет логику (и даже не современную математическую, а Аристотелевскую, с силлогизмами и всеми её уже сотню лет известными ограничениями). И ещё отечественные «знатоки русской научной терминологии» обязательно проявятся со своими претензиями на термины и их значения – причём они все будут предлагать каждый разное, приводя самые разные обоснования, ссылки на самые разные авторитеты. Но это нормально, мы всё равно будем использовать описанный тут набор понятий и терминов для обсуждения интеллекта и мышления: лучше иметь универсальный и маленький набор понятий, который позволяет делать объяснения/модели мира, чем много самых разных несовместимых друг с другом и никак не соотносящихся понятий из слабо связанных друг с другом объяснений/теорий/дисциплин/моделей. Универсальность и компактность объяснений рулят, в том числе в трансдисциплинах. Универсальность как свойство хороших объяснений особо подчёркивал Дэвид Дойч.

Затруднения обычно возникают, когда мы говорим о частях общего интеллекта как вычислителя и частях мышления как частях функциональности общего интеллекта: о трансдисциплинарных практиках. Проблема с трансдисциплинами в том, что они используются для объяснений как в прикладных предметных областях, так и для объяснений самих себя! Условно можно считать эти трансдициплины выстроенными в некоторое подобие «стека» (stack, «стопка»). Описанию современного состояния этих трансдициплин и посвящён наш курс. Вот эти трансдициплины, которые расположены в очень приблизительном порядке задействования объяснений, «чтобы объяснить как-то дисциплины, стоящие выше, нужно использовать знание дисциплины, стоящей в стеке ниже»:

• Системная инженерия

• Методология

• Риторика

•  Этика

• Эстетика

• Исследования

• Рациональность

• Логика

• Алгоритмика

• Онтология

• Теория понятий

• Физика

• Математика

• Семантика

• Собранность

• Понятизация