ОСЦИЛЛЯТОРНЫЕ НЕЙРОННЫЕ СЕТИ. МАТЕМАТИЧЕСКИЕ РЕЗУЛЬТАТЫ И ПРИЛОЖЕНИЯ

2 Математическое исследование динамики осцилляторных нейронных сетей

Данный раздел посвящен, в основном, математическим вопросам синхронизации в ОНС с различными типами связей. Будут рассмотрены полносвязные сети, сети с локальными связями и сети с временной задержкой в связях. Этому предшествует обоснование редукции осциллятора общего вида к фазовому осциллятору и обсуждение понятия синхронизации осцилляторов.

Осциллятор - это множество совместно функционирующих элементов (нейронов или нейронных ансамблей), способных работать в колебательном режиме. С точки зрения математического моделирования удобно представлять ОНС в виде отдельных, взаимодействующих между собой осцилляторов.

Отличительной особенностью некоторых осцилляторов является наличие в их структуре возбуждающих и тормозных нейронов (нейронных популяций), различающихся по характеру воздействия: возбуждающие нейроны увеличивают, а тормозные уменьшают активность других элементов сети. Такие осцилляторы мы будем называть нейронными осцилляторами.

Осциллятор описывается системой дифференциальных (или разностных) уравнений, иногда со случайным шумом. Таких уравнений может быть много (несколько десятков или сотен) в случае детального учета специфики биологических нейронов [3,121]. Если же изучение проводится на уровне нейронных популяций, то рассматриваются обычно два-пять уравнений, описывающих усредненную по ансамблю динамику каждой популяции [42,120]. В случае фазового осциллятора рассматривается лишь одна переменная - фаза колебаний [39].

В зависимости от архитектуры связей между осцилляторами мы будем рассматривать ОНС двух типов.

  1. Полносвязные сети осцилляторов. В этом случае каждый из осцилляторов связан со всеми другими осцилляторами.
  2. Сети с локальными связями. В этом случае каждый осциллятор связан только с осцилляторами из своей окрестности фиксированного радиуса. Иногда учитываются временные задержки в связях.

В большинстве обозреваемых работ предполагается, что величина взаимодействия (сила связи) осцилляторов мала. Тогда можно использовать асимптотические методы: тот или иной вариант теории усреднения или же переход к непрерывной аппроксимации. Другая возможность - рассмотрение нейронных сетей, состоящих из очень большого числа осцилляторов. Здесь используются асимптотические методы, а также метод перенормировки (укрупнения осцилляторов). Если не удается получить аналитические результаты, то исследование проводится с помощью имитационного моделирования.

Динамику осциллятора удобно представлять как движение вдоль траектории в фазовом пространстве. Тогда регулярным колебаниям будет соответствовать предельный цикл, квазипериодическим - тор, стохастическим - странный (стохастический) аттрактор. При изменении параметров сети могут происходить бифуркации (фазовые переходы), в результате которых появляются и исчезают аттракторы системы. Подробное исследование динамических режимов нейронного осциллятора при изменении двух параметров проведено в работе [123].

Прежде чем перейти к изучению динамики ОНС, покажем, что ОНС общего вида со слабыми связями редуцируется к сети из фазовых осцилляторов.

Пусть осциллятор описывается системой m автономных дифференциальных уравнений:
(2.1)

Предположим, что в фазовом пространстве осциллятора существует асимптотически устойчивый предельный цикл с периодом 2p/w. Тогда в малой окрестности цикла можно выбрать новые координаты (q,у), где q - фаза движения по циклу и у Î Rm-1 - координаты нормального сечения (на предельном цикле y=0). В новых координатах уравнения (2.1) будут иметь вид:
(2.2)

Предположим теперь, что осцилляторы в ОНС соединены слабыми связями порядка e:

В случае парных и аддитивных связей между осцилляторами эти уравнения принимают вид:

При e=0 прямое произведение предельных циклов дает инвариантный N-мерный тор (начальная фаза q0 на каждом предельном цикле может выбираться произвольно). Можно показать, что этот инвариантный тор сохранится и при малых e>0 (чем сильнее притяжение к предельным циклам отдельных осцилляторов, тем большие величины связи e допустимы). В этом случае уравнения для фазы k-гo осциллятора ОНС на инвариантном торе могут быть записаны в виде:
(2.3)

где 2p-периодические функции Hkj получаются в результате применения метода усреднения и зависят от типа осциллятора (т.е. вектор-функции Fk(x)), а также от архитектуры и типа связей (т.е. вектор-функции Gkj(x)). Такой вывод уравнений (2.3) содержится, например, в работе Г. Эрментраута и Н. Копель [39]. Замечательно, что в ряде случаев (например, для цепочки осцилляторов) функции Hkj зависят лишь от разности фаз fk= qj - qi , и тогда вместо уравнений для фаз (2.3) удается получить уравнения для разностей фаз fk [39].

Фактически, во многих работах уравнения (2.3) рассматриваются без предположения о малостиe. Тогда динамика сети вида (2.3) просто постулируется. Мы будем называть осцилляторы, удовлетворяющие (2.3), фазовыми осцилляторами. В ряде работ предполагается специальный вид функций Нkj:

Hkj(qk, qj)=sin(qj - qk).

Некоторые примеры условий, когда взаимодействие между осцилляторами описывается нечетными или четными функциями Нkj, приведены в работах [39,53].

В рассматриваемых нами работах основное внимание уделяется вопросу о синхронизации колебаний. С интуитивной точки зрения синхронность колебаний означает, что одноименные переменные различных осцилляторов одновременно возрастают и так же одновременно убывают. Таким образом, при синхронизации все осцилляторы должны иметь одну и ту же частоту и нулевую разность фаз. Тем не менее, математически удобнее говорить о синхронизации и тогда, когда при одинаковых частотах разность фаз не равна нулю. Если нужно будет подчеркнуть, что в каком-то из рассматриваемых нами случаев разность фаз равна нулю, мы будем говорить о синфазных колебаниях.

В работах, где осциллятор описывается уравнением динамики фазы типа (2.3), режим синхронизации сети определяется как режим, при котором каждый из осцилляторов стабилизирует свою частоту при больших t:

Это определение синхронизации используется в следующих трех модификациях.

ОС 1. Все осцилляторы работают на одной частоте, Wk = W. В этом случае иногда бывает удобно рассматривать не сами фазы, а их разности, например, fk=qk- q0 (в случае особого положения в сети некоторого осциллятора с фазой q0) или fk=qk - qk+1 (для цепочки осцилляторов). Тогда условие синхронизации принимает вид:
(2.4)

ОС2. Осцилляторы разделяются на группы с равными или близкими частотами, образуя тем самым кластеры синхронно колеблющихся осцилляторов. Условия (2.4) выполняются лишь приближенно при малых связях и большом числе осцилляторов в сети. Часть осцилляторов вообще может не входить в синхронизацию, для них (2.4) выполняться не будет.

ОСЗ. Для частотWk справедливы отношения:

W1 : W2 : ... WN = n1 : n2 : ... nN,

где n1,n2...nN - целые числа.

Основная задача состоит в том, чтобы определить критические значения параметров, при которых тот или иной тип синхронизации имеет место. В этом случае принято говорить о фазовом переходе и о возникновении коллективного поведения в сети. При синхронизации второго типа представляет интерес задача определения количественных характеристик кластеров (среднего и дисперсии размера кластера, скорости его перемещения по сети и др.). Также значительный интерес представляет функция распределения фаз колебаний при различных режимах работы сети.

Из дальнейшего изложения будет ясно, какое из определений синхронизации (ОС1-ОСЗ) используется в той или другой статье.

  1. Полносвязные сети
  2. Сети с локальными связями
  3. Сети с задержками в связях