Появились новые типы нейросетей (сеть Кохонена, RBF, Хопфилда, Хемминга, свёрточные, рекуррентные, рекурсивные и другие) изменились методы их использования (глубокое обучение; свёртка; преобразование знаний, получаемых при обучении нейросетей в правила продукций), изменились и цели проведения нейросетевых исследований (анализ тематической структуры текстов, рисунков, музыкальных произведений, смысловой поиск информации, реализация на их основе экспертных систем с постоянно растущим интеллектом).
Раньше считалось, что основной особенностью искусственных нейросетей является «обучение на примерах». Впоследствии к этой их особенности добавилась возможность моделировать ассоциативную память и использовать ассоциации, моделировать получение новых знаний, извлечение их и представление в виде правил продукции, анализировать тематическую структуру текстов, рисунков, музыкальных произведений, проводить смысловой поиск информации.
Если в первых нейросетевых исследованиях основным инструментом являлся перцептрон, то впоследствии расширились исследования на основе свёрточных, рекуррентных и рекурсивных нейросетей.
Для проведения этих исследований так же, как и раньше, используются модели в виде нейропакетов. К ним добавились программные модели, позволяющие расширить возможности нейропакетов; созданы пространства имён для моделирования нейросетей на различных алгоритмических языках.
Учитывая высокую стоимость коммерческих нейропакетов, стало появляться много freeware программных средств (то-есть программных средств свободного распространения) для проведения нейросетевых исследований: алгоритмические языки и их смеси, пространства имён, другие модели и методы.
В настоящее время для обучения доступны такие бесплатные нейропакеты, как Deductor Academic, НейроПро 0.25, SNNS, Mem-Brain; пространства имён Neuron Dot Net; AForge, AlgLib; пакеты программ Encog, Azur, и др.
Много программных средств разработано на таких алгоритмических языках, как C, C++, C#, Java, Pyton, JavaScript.
Моделирование интеллекта Высшей нервной системы человека.
Третий раздел нейрокомпьютинга «Моделирование интеллекта Высшей нервной системы человека» имеет длинную историю. Осенью 1988 г. было учреждено Международное общество нейросетей (INNS – International Neural Networks Society), которое было предназначено для координации мировой «нейроактивности». Летом 1994 г. этим обществом был проведен Всемирный конгресс по нейронным сетям, на котором были определены следующие направления фундаментальных исследований:
· Биологическое зрение. Работа с объектами зрительной сцены живого мира.
· Машинное зрение. Раздел охватывает аспекты моделирования зрительных функций в технических системах. Особое внимание уделеняется принципам избирательного внимания к компьютерным объектам зрительной сцены.
· Речь и язык. Различные аспекты синтеза и распознавания речи.
· Биологические нейронные сети. Тематика раздела охватывает свойства отдельных нейронов, нейронных сетей управления движением и слухом, аспекты обучения в биологических сетях, а также пути перехода от биологических нейронов к искусственным (кремниевым).
· Нейроуправление и робототехника.
· Обучение с учителем.
· Обучение без учителя.
· Распознавание образов.
· Прогноз и идентификация систем. Для рассмотрения методов кибернетического моделирования сложных систем на базе нейронных сетей.
· Нейронаука о сознании. Аспекты организации и моделирования высшей нервной деятельности.
· Связь науки о сознании с искусственным интеллектом.
· Нечеткие нейронные системы. Построение нейромоделей нечеткой логики.
· Обработка сигналов. Одна из старейших областей приложений нейронных сетей и теории распознавания образов – выделение и анализ свойств сигнала из шума.
· Нейродинамика и хаос. Свойства нейронных сетей, как нелинейных динамических систем.
· Аппаратные реализации. Ключевой вопрос перспективных приложений – новые физические принципы и среды для обработки информации.
· Ассоциативная память.
· Нейровычисления и виртуальная реальность. Возможность применения нейронных сетей и высокопараллельных вычислений на них для создания искусственной реальности: сложная аппаратно-программная система виртуальной реальности моделирует основные сигналы, воспринимаемые человеком от внешнего мира и реагирует на его действия, подменяя собой реальный мир.
· Сети и системная нейронаука. Временное поведению сигналов в нейронных контурах как биологических, так и искусственных сетей.
Конгресс 1994 года успешно состоялся. После него прошли и другие форумы, нейроинформатика пополнилась новыми приложениями.
Согласно «Постановлению СМ РФ» в 2012 году в нашей стране начаты исследования «искусственных когнитивных систем» (ИКС) трёх типов:
· нейроморфные (подобные организации живой нервной системы),
· кортикоморфные (подобные организации коры головного мозга) искусственные нейросети
· генноморфные (подобные генетическим и эпигенетическим механизмам организмов).
Эти модели реализуются на всех технических средствах (платформах) в виде:
· специализированных систем на базе суперкомпьютеров,
· распределенных систем в глобальных и корпоративных компьютерных сетях,
· автономных технических устройств и роботов,
· систем управления крупными технологическими комплексами и соединениями,
· микросистем и нанокомплексов,
· киберорганических систем.
Среди перечисленных трёх разделов нейрокомпьютинга нейросетевые исследования наиболее тесно связаны со вторым разделом «исследованием хозяйственных процессов», в которых производится поиск, оценка и преобразование смысла в обрабатываемой информации, с выполнением умозаключений, с использованием интеллектуальных навыков, включающих в себя такие, как:
· сопоставление сложных объектов и оценку их сходства;
· выделение типового объекта из группы однородных;
· поиск типичных черт, существенных признаков;
· формирование описания типового объекта, выделение его отличительных черт;
· определение понятий (дефиниции);
· выявление причинно-следственных связей;
· интерпретация связей и свойств исследуемых объектов;
· генерация гипотез;
· выявление закономерностей;
· самообучение, адаптация;