Интеллект-стек 2023

?

?

Интеллект – это вычислитель

при познании, мышление – это вычисления при познании

Человеческий мозг – это нейроморфный вычислитель/computer, обеспечивающий самые разные вычисления для личности как при её развитии/обучении/предобучении/познании, так и при участии в какой-то деятельности с использованием познанного, хотя в принципе для людей это трудноразличимо и часто совпадает: что там развитие-обучение-накопление опыта, а что простое использование своего достигнутого уровня развития. У людей как агентов поиск новых потенциально лучших решений/exploration и использование найденных возможно не самых лучших решений/exploitation не так легко разделимы, как в разрабатываемых людьми компьютерных алгоритмах. Это важно: считать мозг по его главной функции универсальным компьютером/вычислителем[43 - https://ru.wikipedia.org/wiki/Тезис_Чёрча_—_Тьюринга_—_Дойча (https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%B7%D0%B8%D1%81_%D0%A7%D1%91%D1%80%D1%87%D0%B0_%E2%80%94_%D0%A2%D1%8C%D1%8E%D1%80%D0%B8%D0%BD%D0%B3%D0%B0_%E2%80%94_%D0%94%D0%BE%D0%B9%D1%87%D0%B0)], а не каким-то магическим устройством (например, «антенной, получающей информацию из Космоса» или «орган, подключающий нас к мировому разуму»), и это неважно, что чаще всего алгоритм работы интеллекта в живом мозге-как-компьютере непонятен и вообще неизвестен. Мы чтим SoTA в нейрофизиологии: мозг занят вычислениями, хотя мы и не можем точно сказать, какими именно (то есть по какому именно алгоритму), об этом только-только начинаем догадываться благодаря исследованиям по машинному интеллекту и нейронным сетям. Особо подчеркнём, что мы не проводим тут инженерных рассуждений, то есть не втаскиваем вопросы конструктивного наполнения функциональных ролей в вычислителе (аппаратном, или определяемом программно – граница между аппаратурой и софтом в алгоритмике всегда расплывчата), то есть не обсуждаем архитектуру мозга как физического вычислителя (задача инженерии), то есть не занимаемся собственно вопросами нейрофизиологии (задача реверс-инженерии, «выяснения устройства инженерной системы», и неважно, что «инженером» тут выступила дарвиновская эволюция, а в случае образованных людей ещё и меметическая техно-эволюция, ибо образование существенно добавляет к интеллекту в части разнообразия типов решаемых проблем).

Мы также не обсуждаем, что из вычислений для познания или просто какой-то рутинной деятельности выполняется живым мозгом, что – коллективом из людей-с-мозгами, что – мозгом-в-теле, что – мозгом-в-теле-с-инструментами и даже дальше с окружающей средой. В когнитивистике это обсуждается как тезис extended cognition[44 - https://en.wikipedia.org/wiki/Extended_cognition (https://en.wikipedia.org/wiki/Extended_cognition), хотя это в разы менее популярный тезис, чем embodied cognition – но кроме embodied, то есть «мозг-не сам по себе, а в-теле», в этот тезис включаются embedded, то есть мышление функционирует только в связанном с ним окружении/environment, enacted – включает не только вычисления в нейронной сети, но и действия, которые делают вещи и организм, а также extended – распространяется на окружение организма], тезис extended mind[45 - https://en.wikipedia.org/wiki/The_Extended_Mind (https://en.wikipedia.org/wiki/The_Extended_Mind) – «And what about socially-extended cognition? Could my mental states be partly constituted by the states of other thinkers? We see no reason why not, in principle.»] или в современных вариантах как active/embodied inference. Когда обсуждают, можно ли научить медведя ездить на велосипеде, обсуждают его интеллект и мышление, а когда обсуждают езду уже обученного медведя на велосипеде, это уже не считают чем-то интеллектуальным, не считают эти вычисления в мозгу медведя мышлением. Примерно то же и у людей: мыслители придумывают новые способы решения задач. А вот кто просто решает эти задачи уже известным ему способом – те уже не мыслители, это вычисление-вывод как у «программируемого калькулятора», его даже рассуждением часто назвать нельзя, вычисление проходит «автоматом».

А ещё мы учитываем, что вычислители и их вычисления крайне многоуровневы:

• физика вычислителей (логика на транзисторных гейтах, квантовые цепи на разных технологиях, нейронные сети на настоящих живых клетках-нейронах и т.д.)

• физические вычислители/аппаратура (сами по себе многоуровневые, «компьютеры»). Компьютеры и алгоритмы (а также доказательства) изоморфны. Так, вы не можете подать патент на алгоритм (программы не патентуемы), но давно придумали «обходную лазейку»: патентуется устройство-вычислитель, реализующий алгоритм!

• вычислители локалистских/монопроблемных/узких в рамках одной предметной области представлений, полученные настройкой вычислений аппаратуры (классические алгоритмы примерно в том виде, в каком их изучают в школе на уроках алгоритмики/информатики – назовём их условно «алгоритмы Кнута», по имени Дональда Кнута, всю жизнь занимающегося составлением справочника по таким «узким алгоритмам»[46 - https://ru.wikipedia.org/wiki/Искусство_программирования (https://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%BE_%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D1%8F)])

• универсальные вычислители (интеллект естественный и машинный, отличающийся как раз тем, что решает проблемы, которые раньше не встречались – алгоритм решения которых пока неизвестен. А потом полученное мышлением с использованием трансдисциплин знание может быть использовано для прикладных вычислений в ходе какой-то прикладной деятельности). И вот тут тоже много уровней, в том числе универсальные вычислители, реализованные конструктивно человеческим мозгом, компьютерами с разной физикой (электронными, квантовыми, оптическими), а также сетями из людей и компьютеров (например, вычислений какой-нибудь компании, которые она делает в ходе её деятельности – в том числе вычислений, которые делает компания и своими исследовательскими лабораториями, и производственными подразделениями, и даже службой маркетинга).

Отнюдь не все вычисления тем самым попадают под понятие мышления, хотя сегодня всё больше и больше учёных считают, что все вычисления, включая вычисления уровнем выше одного компьютера можно считать если уж не «мышлением» как полноценным активным познанием, то уж всяко думанием/рассуждением/inference. На вопрос, «думает ли человечество?» Виталий Ванчурин отвечает «конечно, думает! Другое дело что как-то представить привычным образом эти мысли нельзя». Но в принципе, человечество коллективными вычислениями как-то решает проблемы, с которыми раньше не сталкивалось – и находит для них решение. Так, коллективными усилиями найдено решение массового перемещения людей по воздуху, на Земле появилась авиация. И стало возможным почти мгновенно передавать изображения предметов на огромные расстояния: появились смартфоны с фотофункциями, подключённые к интернету. Это всё результаты коллективного мышления, познания свойств мира, окружающего коллективно мыслящих (причём сейчас мыслящих с использованием ещё и компьютеров!) людей.

Тем самым при обсуждении интеллекта и мышления мы тут обсуждаем не нейрофизиологию. Естественный интеллект – это обеспечивающая универсальные вычисления часть вычислителя-мозга людей (интеллект собак или слонов обычно не считают «естественным интеллектом»). Дальше можно обсуждать в рамках extended cognition, насколько в состав вычислений естественного интеллекта можно включать вычисления, выполняемые компьютерами. Скажем, если автор погуглил (или обратился к AI в форме чат-бота) в ходе написания этого поста – это его естественный интеллект работал, или уже полумашинный интеллект, поскольку вычисления в датацентрах Гугла и/или Майкрософта тут тоже поучаствовали? Опять же, что естественного в человеческом интеллекте?

Без inductive biases (специально создаваемых предпочтений в рассуждениях какого-то интеллекта), привносимых мыслительными трансдисциплинами (предобучение в детском саду, школе, вузе), никакого традиционно понимаемого «естественного интеллекта» нет, есть Маугли из джунглей, который даже разговаривать не умеет. Трансдисциплины же абсолютно искусственны сами по себе: семантика, теория понятий, онтология, логика и все остальные дисциплины из интеллект-стека придуманы людьми и продолжают придумываться-уточняться. Все эти теории явно не «естественного происхождения». Ничего «естественного» в логике нет, это продукт работы многих поколений учёных! Логика абсолютно искусственна. Маугли из джунглей, воспитанный волками, логикой не владеет! Он даже разговаривать не умеет (человеческий язык тоже ведь не вполне естественен: мы знаем часто, какие его слова кто придумал). Так что слово «естественный» по отношению к интеллекту не вполне естественно (pun intended[47 - Каламбур намеренный.]). С другой стороны, это всё естественный процесс, эволюция. Все эти дисциплины эволюционируют (меметическая, техно-эволюция), и там те же закономерности, что в дарвиновской (генетической, биологической) эволюции. Тем самым смело можно считать, что и сама логика, и использующий её интеллект – естественны, получены эволюционным путём, согласно законам природы, а не порождены произвольными фантазиями полностью «искусственно». Оказывается, что различение «естественного» и «искусственного» в интеллекте не сильно продвигает, но только запутывает. Поэтому просто будем говорить «интеллект», а не «естественный» или «искусственный» интеллект.

Дальше не будем различать в мышлении «естественную» и «искусственную» составляющую, неявно отсылающую к конструктиву универсального вычислителя: на вакуумных ли лампах он, транзисторный на самых разных полупроводниках, квантовый на разных технологиях, или биологический, то есть «мозг в теле», а то и «мозг с телом» embodied intelligence традиции или даже «мозг с телом и куском окружающей среды» в extended mind традиции. Это всё оказывается про инженерию новых вычислителей, а для разговора об интеллекте и мышлении не так важно.

Условно можно из любых вычислений/рассуждений выделить их более узкий класс «мышление» – как вычисления/рассуждения, ведущие к познанию/пониманию мира. Познание/learning – это вычисление интеллектом объяснений на базе какого-то нового набора понятий («формирование понятий», иногда обобщаемое до «формирования представлений»[48 - https://ailev.livejournal.com/1045081.html (https://ailev.livejournal.com/1045081.html)]), организация внимания на объектах для последующих прикладных вычислений. Это тот самый learning из «машинного обучения» и «искусственного интеллекта» как предметных областей. У СМД-методологов это «чистое мышление» + «коммуникация» в их схеме мыследеятельности[49 - https://gtmarket.ru/library/basis/3961/3974 (https://gtmarket.ru/library/basis/3961/3974)]. Мышление коллективно, обеспечение коммуникации в работу/вычисления интеллекта тоже попадает! «Коллективность» тут означает по факту учёт многоуровневости вычислений: нейроны объединяются в части мозга, мозг коммуницирует с телом, тело коммуницирует в окружающей средой (в том числе с другими телами, в которых тоже есть мозг), а в последнее время в эту коллективность добавляются компьютеры. Не всё так просто, ибо интеллект нельзя усилить, просто задействовав много вычислителей – это ограничивается законом Амдаля[50 - https://en.wikipedia.org/wiki/Amdahl's_law (https://en.wikipedia.org/wiki/Amdahl%27s_law)], который показывает, что при сложных вычислениях весь прирост производительности от роста числа процессоров съедается сложностями организации коммуникации между этими процессорами.

Недаром профи говорят не об «информационных технологиях»/IT, а об «информационно-коммуникационных технологиях»/ICT. Можно называть это «интеллектуальным мышлением» (мышлением интеллекта), но вообще-то и само по себе слово «мышление» лучше резервировать только для всех вычислений именно познания, и даже не для прикладных вычислений-рассуждений с использованием познанного набора понятий (у СМД-методологов для прикладных вычислений в ходе выполнения практики используется слово «мыследействование», а вот мышление+коммуникация+мыследействование называются вместе «мыследеятельность»).

Тут нужно отметить, что мы обозначаем словом «познание» как познавательную деятельность/практику людей-в-теле-и-с-инструментами в мире (эпистемология как «научное познание» и гносеология как «научное, религиозное и художественное познание» тут используют слово cognition), так и только работу их вычислителей-интеллектов как функциональной части мозга (люди из AI используют для этого слово learning, а не cognition). Мы не обращаем на эти особенности внимания, ибо вычислители физичны, что позволяет им заниматься в принципе и практикой по изменению мира. Вычисление – это только какие-то операции над памятью. Входят ли датчики и актуаторы в состав компьютера-вычислителя или человека-вычислителя, или находятся в его окружении – это вопрос отдельный. Мы уже упоминали, что в теориях embodied cognition и extended mind, а также active inference они вполне себе входят в состав вычислителя, вычислитель всегда «телесен» и тело всегда находится в окружающем его мире. Так что «деятельность/практика/мыследеятельность» и «вычисления» оказываются разве что не синонимами.

Мы можем говорить о практиках как познании. Практика – это мышление/«вычисления познания» и коммуникация по дисциплине/теории/модели/объяснению, а также влияние на указанные дисциплинами объекты в мире + технология как инструменты для влияния на мир. Практики нужны для уменьшения неприятных сюрпризов. В числе инструментов ещё и аппаратура вычислителя со всеми необходимыми для выполнения практики настройками/inductive bias/алгоритмами/знаниями.

Да, тут можно разбираться подробней. Например, входят ли в познание какие-то прикладные рассуждения (например, чисто инженерная задача создания микроскопа получше)? Да, входят. А наоборот, включается ли в прикладные рассуждения какая-то познавательная активность (например, что из законов природы мы не учли, чтобы наши микросхемы работали побыстрее)? Да, включается. И сами деятели/агенты/практикующие, и их деятельности/практики устроены многоуровнево, и ещё образуют друг для друга цепочки по «изготовлению» друг друга в подходящих комплектациях и состояниях (дают друг другу инструменты, дополнительные вычислительные мощности, энергию, учат в диалоге или даже просто передают знания на каких-то носителях). Мы не будем сейчас это разбирать подробно. Достаточно запомнить, что «практики познания» вполне возможны, в них есть дисциплины, которым можно учиться, то есть познавать тоже надо учиться! Практики интеллект-стека – это как раз и есть практики познания, они трансдисциплинарны, используются в тех случаях, когда непонятно, какой прикладной практикой пользоваться. Интеллект-стек – это мыслительные практики SoTA мышления (лучшего, известного на текущий момент). Эти практики основаны на результатах познания того, как устроено само познание. Познание при этом деятельно, оно служит деятельному избеганию неприятных сюрпризов, это часть меметической/техно-эволюции.

Кейс по различению интеллекта и мышления

Укажите приблизительные синонимы для используемых в нашем курсе терминов

??? мышления

–– интеллект ### нет, интеллект – это вычислитель, его вычисления и есть мышление

+++ рассуждение ### да, мышление – это рассуждения в ходе познания

–– мыслительное мастерство ### нет, мыслительное мастерство это вычислитель, синоним интеллекта. Мышление – это те рассуждения/вычисления, которые проводит мыслительное мастерство.

+++ вычисления ### да, мышление – это вычисления в ходе рассуждений, связанных с познанием

+++ познание ### да, познание – это мышление в ходе исследований и/или обучения

–– ум ### нет, ум – это обычно интеллект, который проводит вычисления, а не сами вычисления, как мышление

??? интеллекта

–– мышление ### нет, мышление – это вычисления, а интеллект – вычислитель

–– рассуждение ### нет, рассуждения – это вычисления, а интеллект – это вычислитель

+++ мыслительное мастерство ### да, мастерство проводит вычисления, это вычислитель для мышления, синоним интеллекта.

–– вычисления ### нет, интеллект – это вычислитель, а вычисления – это не сам вычислитель, а что он делает

–– познание ### нет, познание – это мышление в ходе исследований и/или обучения, интеллект познаёт/вычисляет/рассуждает, но он сам не познание

+++ ум ### да, ум – это обычно интеллект, который проводит вычисления мышления/познания. Умный человек – это человек с интеллектом, то есть быстро разбирающийся в новых ситуациях.

–– умность ### нет, «умность» – это свойство агента, обладающего умом/интеллектом как вычислителем

–– вменяемость ### нет, «вменяемость» – это свойство агента, обладающего умом/интеллектом как вычислителем

Прикладное мастерство,

прикладные рассуждения

Прикладными рассуждениями назовём такие рассуждения/вывод/inference/обновление, которые проводятся использованием уже известных понятий как объектов внимания, с которыми ведутся эти рассуждения. Хорошо бы избегать это называть «прикладным мышлением»: слово «прикладное» потеряется в речи, и опять всё вокруг интеллекта и мышления запутается в винегрет, познание и просто рассуждения типа 2*2=4 или более сложное контрфактуальное «если бы Пушкина не убили на дуэли, он бы написал ещё некоторое количество стихов» перестанут отличаться от познания/исследований как создания новых объяснений. Слова для более низкого уровня вычислений/рассуждений (не познания в целом с выдачей новых объяснений и новых понятий как результата, а рассуждения по правилам с уже имеющимися понятиями) будут другими.

Мышление/познание/исследование как создание теорий/объяснений, конечно, более высокого уровня, ибо содержит в себе ряд более простых (с уже известными понятиями и правилами) рассуждений над догадками/гипотезами. Интеллект мы считаем состоящим из других более простых вычислителей-подсистем, а рассуждение/вывод/оценка/вычисление/мышление интеллекта происходят как некоторый набор рассуждений с уже имеющимися теориями/алгоритмами/моделями/дисциплинами/объяснениями. Чтобы познать что-то новое, нужно прежде всего применить уже имеющееся знание, в том числе знания мыслительных дисциплин. Это не всегда можно разложить на независимые операции (работают нейросетки! Композициональность/конструктивность мышления – это предмет текущих исследований[51 - https://arxiv.org/abs/2212.12538 (https://arxiv.org/abs/2212.12538)]).

Познавшие/исследовавшие какую-то предметную область приобретают мастерство рассуждений в этой предметной области, «прикладной/узкий интеллект», который можно считать умением разбираться со всё новыми и новыми неожиданными ситуациями, но в какой-то прикладной, узкой предметной области. Если непонятен предмет, что-то «совсем новое, непонятно, какие знания нужны» – это общий интеллект/general intelligence или как раньше говорили, «сильный интеллект», а вот если речь идёт о новых задачах в чём-то известном (скажем, новые и новые задачи в судостроении, или новые и новые задачи в медицине), то это прикладной/узкий/слабый интеллект. Сила/общность/широта интеллекта оказываются связаны с его «прикладностью»: чем уже набор типов объектов, с которыми справляется интеллект, тем интеллект более специализирован, и даже «менее интеллект»: если не предполагается, что при работе в предметной области появятся новые типы объектов, то это и вообще не интеллект – хотя помним, что даже калькулятор можно «перепаять», чтобы научить его выполнять новые типы операций, так что там вменяемость как характеристика интеллекта минимальная, но всё-таки есть. Всё на свете интеллектуально и имеет какой-то ум, но вот степень умности – разная. Прикладной ум узкий, он оперирует с относительно небольшим числом типов.

При этом нельзя считать, что прикладной ум не нужен. Есть теорема о бесплатном обеде, которая гласит, что никакой вычислитель не может одинаково эффективно вычислять все возможные типы алгоритмов. Всегда найдётся какой-то специализированный/узкий вычислитель, который будет вычислять алгоритм эффективней, чем якобы «универсальный». Хотя «математически универсальных» алгоритмов вычислений (или, что то же самое – конструкций вычислительных машин) множество и все они математически одинаковы, полностью эквивалентны машине Тьюринга. Но на одном физическом «универсальном вычислителе» будете решать задачу А одну секунду, а задачу Б – тысячу лет, а на другом – ровно наоборот, задачу Б за одну секунду, а вот задачу А за тысячу лет. Поэтому «истинно универсального» интеллекта в физическом мире не существует. В ходе эволюции побеждают разные сочетания интеллектов. Например, общий/сильный интеллект, который усиливает себя прикладными/узкими эффективными интеллектами, которые сам же сильный интеллект и придумывает, и для усиления себя создаёт. Если это человек, то он такой прикладной интеллект создаёт прямо на структурах своего мозга (обучением и тренировкой! Мозг пластичен, там буквально отрастают физически нужные нейроны, у них нужные синапсы, а ещё увеличивается кровоснабжение в нужных областях мозга).

В любом случае, сначала мы познаём какую-то предметную область (получаем новый набор понятий и объяснения с использованием этих понятий – скажем, учимся уговаривать людей покупать разные товары, предметная область продвижения, то есть маркетинга, рекламы и продаж, сводящаяся к организации клуба любителей какого-то товара), а затем используем новые понятия в прикладных рассуждениях при организации продвижения самых разных продуктов и услуг. Один раз познаём какое-то мастерство, затем многократно его задействуем.

Рассуждения/вывод/inference при этом чаще всего причинный (causal inference). Причинные рассуждения, а иногда говорят не «рассуждения», а «обновления» (в английском иногда тут ставят update, имея в виду байесовское обновление вероятностей в объяснениях, идущее при получении новых данных на каждом шаге рассуждений).

Рассуждения у нас проектные, то есть направленные в будущее, «планирующие». Поэтому для планирования действий нам нужно понимать связь причин и следствий. У СМД-методологов вывод/рассуждения/оценки – это «мыследействование» (отдельный слой в их трёхслойной схеме мыследеятельности, а два других – «чистое» мышление и коммуникация).

Если познанием занимается интеллект как «общемыслительное мастерство», то выводом занимаются порождаемые им приложения/applications, и вот эти приложения мы и называем прикладными «компетенциями», прикладным «мастерством». При этом компетенции и мастерство мы понимаем не только как чистые прикладные вычисления, но и выходящие в изменения физического мира практики, «мир – это тоже память, над миром тоже проводим операции». Как это конструктивно реализовано в мозгу, да ещё с выходом на тело, да ещё с выходом на экзокортекс (внешнюю память: ручка-бумага, компьютерные программы разнообразого информационного моделирования), да ещё с выходом на экзотело (копаем не руками, и даже не палкой-копалкой, а экскаватором) и даже чужое экзотело (экскаватором управляем не сами, а контрактуем экскаваторщика)? Мыслить – это писать, моделировать, действовать. Если не пишешь, не моделируешь, не действуешь – не думаешь.

Конструкция такого «выходящего в мир вычислителя» оказывается для многих и многих рассуждений не слишком важной (если вам не надо лечить мозг или ремонтировать компьютер): или это чуть другой алгоритм (алгоритм прикладных рассуждений, алгоритм мастерства), задействующий те же самые нейроны реального мозга, что использовались при обучении мастерству, или даже другие нейроны – это для наших целей неважно. Главное тут различение «времени создания и развития» (познания) и «времени использования» (выполнение целевой прикладной практики, время работы) мастерства, даже с учётом того, что использование мастерства приводит к росту этого мастерства, нейронная сетка дообучается по ходу прикладных рассуждений.

Прикладное мастерство/skills – это функциональная часть мозга, которая занимается прикладными рассуждениями/вычислениями/оценкой/inference для реализации какой-то прикладной практики владельцем этого мастерства. Мыслительное мастерство – это мастерство реализации какой-то фундаментальной мыслительной практики, основанной на трансдисциплине. Совокупность разных видов мастерства представляет собой интеллект агента: прикладной/узкий/слабый интеллект, если речь идёт о каком-то прикладном мастерстве и сильный/общий/широкий, если речь идёт о самых разных видах мыслительного мастерства, собранных вместе и скоординированно использующихся в мышлении/познании как деятельности интеллекта.