УМК «Нейросетевые технологии». Руководство по подготовке квалифицированных нейроконструкторов

УМК «Нейросетевые технологии». Руководство по подготовке квалифицированных нейроконструкторов
Александр Аполлонович Кириченко

УМК «Нейросетевые технологии» состоит из четырёх частей, каждая из которых предназначена для реализации в течение одного семестра (16 недель). Первые две части соответствуют уровню подготовки бакалавра. Третья и четвёртая части предназначены для углублённого изучения нейросетевых технологий в магистратуре и в аспирантуре. В состав УМК включены 4 учебные программы, контрольно-измерительные материалы для них и методическая литература в виде перечня pdf-файлов для изучения каждой части дисциплины.

УМК «Нейросетевые технологии»

Руководство по подготовке квалифицированных нейроконструкторов

Александр Аполлонович Кириченко

© Александр Аполлонович Кириченко, 2020

ISBN 978-5-0051-9135-9

Создано в интеллектуальной издательской системе Ridero

Введение

Состав работ, связанных с Нейрокибернетикой

Кому и для чего нужны «Нейросетевые технологии?»

В литературе состав работ, связанных с «Нейрокибернетикой» обычно представляется тремя направлениями:

– Разработка и программная реализация математических моделей искусственных нейросистем (ИНС).

– «Разработка и использование нейрокомпьютеров (НК)»

– «Разработка и реализация математических моделей высшей нервной системы человека (ВНСЧ)».

Первое из выделенных направлений, известное так же под названием «Нейросетевые исследования хозяйственных процессов (решение задач кластеризации, классификации, прогнозирования, узнавания, предсказания)» или «Разработка и использование нейропакетов», связано с построением и применением нейросетей из искусственных нейронов. Для их программной реализации создаются нейропакеты (НП). В ИНС, как правило, используются модели простых нейронов, бистабильные или реализующие элементарные нелинейные функции (например, функцию знака, сигмоидальные функции и т. д.).

Второе направление (НК) связано с физической реализацией нейросетей – с нейрокомпьютерами (НК), их разработкой и использованием. В (НК) так же находят применение модели простых нейронов, нейросетей и элементы, реализующие некоторые конструкции из вычислительной техники. Обращает на себя внимание, что главным в этом направлении является то, как реализовать работу нейросетей, возможность расширения состава решаемых интеллектуальных задач не за счёт поиска новых алгоритмов работы мозга и совершенствования конструкции нейросетей, а за счёт применения известных алгоритмов лингвистики, математической статистики, вычислительной техники.

Третье направление связано с разработкой моделей Высшей нервной системы человека, использующих достижения специалистов медицинского и биологического профиля, основанные на результатах биохимических исследований, активном исследовании сенсорных, внутренних (чувство равновесия), эффекторных (управление мышцами, внутренними органами, сосудами) нейронных структур человека. Среди них наиболее важными являются исследования, направленные на моделирование неизвестных алгоритмов мыслительной деятельности, таких, как интуиция, возникновение ассоциаций, особенностей протекания креативного мышления и реализации алгоритмов обработки образов, а так же – характерного для мышления динамического преобразования образов в рекуррентных, и особенно – в рекурсивных нейросетях.

История создания УМК

Учебно-методический комплекс «Нейросетевые технологии» начал формироваться в Федеральном государственном автономном образовательном учреждении высшего профессионального образования «Национальный исследовательский университет «Высшая школа экономики» в 2012 году сначала в виде общеуниверситетского факультатива «Нейропакеты – современный интеллектуальный инструмент исследователя», а с 2015г. – в виде майнора «Нейросетевые технологии» на Факультете компьютерных наук в Департаменте программной инженерии.

Основная трудность преподавания этой дисциплины была связана с отсутствием доступного программного обеспечения для проведения практических занятий. Приходилось использовать очень дорогие, громоздкие и не совсем удобные универсальные математические пакеты: Matlab Neural Network Toolbox, STATISTICA Neural Networks, NeuroSolutions, BrainMaker, Encog, Azur.

Были попытки использовать и freeware пакеты Deductor Academic, SNNS и др. Но Deductor обладал очень ограниченными возможностями по демонстрации нейронных сетей. А SNNS был подготовлен к использованию под операционной системой Unix.

При изучении Нейросетевых технологий наибольшую эффективность получили такие freeware пакеты, как Sharky, Пермский нейроимитатор, MemBrain. Наиболее подходящим оказался freeware нейроконструктор MemBrain.

Структура УМК

Накопленный опыт показал, что Учебно-методический комплекс (УМК) «Нейросетевые технологии» должен состоять из четырёх частей:

– Основы теории искусственных нейронных сетей

– Нейросетевые исследования хозяйственных процессов (решение задач кластеризации, классификации, прогнозирования, узнавания, предсказания).

– Конструирование искусственных нейронов и нейронных ансамблей для работы со смысловой частью информации

– Нейросетевое программирование (от искусственных нейронных сетей до моделирования высшей нервной деятельности человека).

Первые две части соответствуют уровню подготовки бакалавра.

В первой части учащихся знакомят с устройством нейронных сетей и их возможностями. На практических занятиях изучается устройство и работа с нейропакетом MemBrain.

Вторая часть даёт возможность познакомиться с различными нейропакетами и научиться решать практически возникающие задачи узнавания, классификации, прогнозирования, предсказания, сжатия, кластеризации объектов (образов). Для решения таких задач необходимы в основном простые нейросети типа перцептронов, сетей Кохонена, сетей Хопфилда, и др., которые можно отнести к нейроконструкциям первого уровня сложности.

Третья часть направлена на разработку и использование нейрокомпьютеров (проектирование и конструирование нейроконструкций (НК) на основе использования нейрологических элементов; разработка программного обеспечения (ПО) НК; обучение НК решению различных классов задач).

Нейросетевые конструкции становятся более сложными, в них используется интерфейс пользователя, автоматизируется управление проведением нейросетевых исследований, нейрокомпьютерные элементы реализуются в виде искусственных нейронных ансамблей (ИНА).

Самое главное, что нейроконструкции этого уровня создаются для работы со смысловой частью информации:

– сопоставление сложных объектов и оценку их сходства;

– выделение типового объекта из группы однородных;

– поиск типичных черт, существенных признаков;

– формирование описания типового объекта, выделение его отличительных черт;

– определение понятий (дефиниции);

– выявление причинно-следственных связей;

– интерпретация связей и свойств исследуемых объектов;

– генерация гипотез;

– выявление закономерностей;

– самообучение, адаптация.

Если необходимых нейросетевых алгоритмов в момент исследования неизвестно, в таких нейроконструкциях допускается использование известных алгоритмов из математической статистики, например, для выявления причинно-следственных связей, формирования существенных признаков, генерации гипотез, а так же – таких конструкций, как систем управления базами знаний (СУБЗ). В них можно использовать не выполненные в виде нейронных сетей логические элементы, а обычные цифровые программы.

Третья и четвёртая части направляются на усложнение нейросетей: активное использование нейросетей типа автоэнкодеров и образование на их основе глубоких нейросетей или конструкций для глубокого обучения, использующих группирование нейросетей в нейроконструкции, объединение подсетей разного уровня, активно использующих свёртки и свёрточные нейросети, теорию нечётких множеств, элементы нейронечётких систем, эвристических моделей и методов, разнообразных программных средств.

Эти две части предназначены для создания различных видов интеллектуальных моделей: обучающих, самообучаемых, для естественноязыкового (ЕЯ) диалога, для распознавания образов, автоматической классификации, для оцифровки и преобразования смысла, для исследования психических процессов (таких, как ассоциативная память, мышление, интуиция, и др…).

Каждая часть комплекса предназначена для изучения в течение семестра в режиме 1 раз в неделю в виде одной лекции и одного-двух практических занятий.

В состав УМК включены 4 учебные программы, контрольно-измерительные материалы для них и методическая литература в виде pdf-файлов издательства Ридеро для изучения каждой части дисциплины «Нейросетевые технологии»: