ОСЦИЛЛЯТОРНЫЕ НЕЙРОННЫЕ СЕТИ. МАТЕМАТИЧЕСКИЕ РЕЗУЛЬТАТЫ И ПРИЛОЖЕНИЯ

Заключение

Подведем кратко итоги по каждому разделу и обсудим задачи, представляющие интерес для дальнейших исследований.

1 Математическое исследование динамики ОНС

Математическая теория ОНС разработана в основном для систем, в которых имеется малый параметр: малая связь между осцилляторами, малая величина 1/N, когда число осцилляторов N неограниченно возрастает, малая амплитуда почти гармонических колебаний вблизи бифуркации Хопфа и т.д. В этих случаях асимптотические методы позволяют охарактеризовать динамическое поведение ОНС, в частности, сформулировать условия синхронизации колебаний. Сети из двух или трех связанных осцилляторов достаточно хорошо исследуются методами теории бифуркации. Трудности возникают, когда число осцилляторов составляет несколько сотен или тысяч, и связи между ними не являются малыми. Обычно такие системы изучаются методами имитационного моделирования на ЭВМ.

Перечислим некоторые вопросы, представляющие интерес для дальнейшего развития теории ОНС.

  1. Исследование динамики и синхронизации ОНС для осцилляторов с локальными связями на плоскости и в трехмерном пространстве, в случае многослойных архитектур, в иерархических сетях, в сетях с центральным осциллятором, для нейронных сетей с пейсмекерными нейронами, при наличии временных задержек в связях и др.
  2. Изучение режимов, в которых возможно образование динамических кластеров синхронно работающих осцилляторов и исследование свойств этих кластеров.
  3. Исследование динамики и синхронизации в ОНС с изменяемыми параметрами (обучение нейронных сетей), постановка и решение оптимизационных задач для ОНС.

2 Осцилляторные модели обонятельной системы

В большинстве математических моделей обонятельной системы (обонятельная луковица, обонятельная кора) рассматривается процесс распознавания запахов и их запоминания. Модели включают популяции возбуждающих и тормозных элементов, характерными динамическими режимами таких сетей являются регулярные и стохастические колебания. Режим стохастических колебаний интерпретируется как готовность системы к быстрому переходу в новое состояние.

Экспериментальные исследования и моделирование обонятельной системы позволили У. Фримену и др. [126] разработать новые алгоритмы классификации паттернов на ОНС. Применение этих алгоритмов для решения одной из прикладных задач распознавания изображений показало их высокую эффективность по сравнению с традиционными методами.

3 Модели зрительной системы

Рассмотренные модели зрительной системы в основном посвящены объяснению экспериментальных данных о возникновении высокочастотных колебаний в первичных областях зрительной коры в ответ на предъявление стимула. Важный экспериментальный факт, нашедший отражение в моделях, состоит в том, что при определенных условиях стимуляции возникающие колебания синхронизуются с нулевой разностью фаз даже в том случае, когда колебания наблюдаются в далеких зонах коры. Для объяснения этого факта в моделях рассматривается возможность синхронизации под влиянием общего источника или синхронизации в результате взаимодействия осцилляторов с временными задержками в связях. Чтобы выяснить, какая из этих возможностей реализована в нервной системе, требуются дополнительные экспериментальные и модельные исследования.

4 Моделирование локомоторной активности

Основной интерес с точки зрения ОНС в работах по моделированию локомоторной активности представляют модели центрального генератора паттернов. Такой генератор, управляемый внешним сигналом, способен вырабатывать различные наборы колебательных паттернов, соответствующие определенным типам ритмических движений.

В исследуемых моделях центральный генератор паттернов состоит либо из небольшого числа осцилляторов (два-четыре), либо представляет собой цепочку локально соединенных осцилляторов. Случай большого числа осцилляторов, а также более сложная геометрия связей практически не исследованы. Недостаточно изучены и вопросы, касающиеся самоорганизации центрального генератора паттернов в онтогенезе, "записи" набора программ, управления переходами от одной программы к другой, корректировки паттернов активности сенсорными входами и т. д.

5 Модели памяти и внимания

Задача моделирования памяти давно привлекает внимание исследователей. Большая часть современных работ основана на идее формирования в нейронной сети множества устойчивых стационарных состояний, которые соответствуют запоминаемым образам. К сожалению, известные модели имеют малую информационную емкость и работают недостаточно эффективно. Рассмотренные работы по ОНС показывают принципиальную возможность построения памяти на осцилляторных элементах, однако преимущества такого подхода еще не выглядят достаточно убедительно. Возможно, больший успех будет достигнут при переходе к системным моделям мозга, которые будут учитывать взаимодействие различных структур: неокортекса, таламуса, гиппокампа и др. Это приводит к необходимости рассматривать память в тесной связи с другими сторонами психической активности, такими, например, как интеграция признаков и внимание.

Предложенные модели внимания позволяют объяснить некоторые результаты психологических экспериментов, однако цельная концепция всего процесса обработки информации на основе регулярной периодической и стохастической динамики еще не сложилась. Одним из интересных вопросов здесь является роль высокочастотных (кора) и низкочастотных (гиппокамп) колебаний и их взаимодействие на разных этапах обработки информации.

Одним из стимулов развития ОНС является желание сформулировать новые принципы обработки информации, подобные тем, которые лежат в основе функционирования мозга, и использовать эти принципы для разработки высокоэффективных технических устройств. Работа в этом направлении только началась. В большинстве работ по моделям ОНС содержатся лишь результаты имитации и объяснения экспериментальных данных. Многие содержательные задачи обработки информации, такие как кодирование, улучшение качества, сегментация, распознавание изображений, ждут своего решения методами ОНС.

Рассмотренные модели ОНС являются попытками объяснить результаты ряда нейрофизиологических и психологических экспериментов, которые не находят объяснения в рамках традиционных неколебательных моделей нейронных сетей. Возникающие здесь трудности очевидны: в одних случаях не ясны пути корректной формализации данных, в других - существуют различные подходы к моделированию, но экспериментальный контроль модельных предсказаний ограничен. Тем не менее, продолжение исследований в данном направлении крайне важно. В последнее время появляется все больше экспериментальных результатов как в области психологии, так и в области нейрофизиологии, которые позволяют перебросить мост между этими двумя областями, и исследователи осцилляторных моделей нейронных сетей делают первые шаги по этому мосту.