Нелинейная динамика и проблемы прогноза

С.П.Курдюмов, Г.Г.Малинецкий

Институт прикладной математики им. М.В.Келдыша РАН.
(статья из журнала ВЕСТНИК РОССИЙСКОЙ АКАДЕМИИ НАУК том 71, N 3, 2001, стр.210-232)


Ссылка на источник: http://www.nsu.ru/materials/ssl/text/metodics/malinecki1.html


С КАФЕДРЫ ПРЕЗИДИУМА РАН

Прогнозами интересуются все - и специалисты, и обыватели. И те, и другие хотят знать, насколько надежны такие сложные технические сооружения, как атомные электростанции или воздушные и океанские лайнеры, получить вовремя информацию о надвигающемся цунами либо предстоящем землетрясении. В последние годы благодаря достижениям нелинейной динамики, теории управления рисками и теории самоорганизованной критичности выявлены принципиальные ограничения прогнозов. Эти ограничения обсуждались на заседании Президиума РАН в конце 2000 г. Материалы заседания легли в основу публикуемой ниже статьи, а также и дискуссии.

Малинецкий Георгий Геннадьевич - профессор, заместитель директора института.
Курдюмов Сергей Павлович - член-корреспондент РАН, заведующий отделом.

Проблемами прогноза давно и очень успешно занимаются в России - и в Академии наук, и в высшей школе. Мы расскажем, что нового внесла нелинейная динамика в анализ такого информационного процесса, как прогноз. В частности, рассмотрим установленные в последние десятилетия фундаментальные ограничения на предсказуемость сложных систем, обсудим концепцию управления риском, гипотезу о "человеческих алгоритмах" прогноза. Затем приведем несколько примеров, показывающих, как эти идеи применяются при прогнозе поведения сложных социальных систем, а также раскроем новые возможности в этой сфере.

ПРЕДСКАЗУЕМОСТЬ И АНАЛИЗ СЛОЖНЫХ СИСТЕМ

Основные идеи, связанные с прогнозом, можно проиллюстрировать на примере маятника (рис.1). Наблюдения за этим маятником показывают, что с вероятностью 95% его колебания будут непериодическими, с вероятностью 5% мы увидим периодическое движение. Результат зависит от импульса, который мы придадим маятнику вначале. Запустим его и посмотрим, что получится.

Рис.1. Простейший непериодический маятник, демонстрирующий динамический хаос. Чтобы скомпенсировать трение, маятник снабжен магнитиками, а в основание игрушки помещены катушка и батарейка, создающие электромагнитное поле


Правильнее будет сказать, что для данной точности (сколь угодно большой, но конечной) можно всегда указать такой промежуток времени, что для него становится невозможным сделать предсказания. И этот промежуток (и в этом вся соль) не так уж велик.
"Фейнмановские лекции по физике"

Динамический хаос и фундаментальные ограничения в области прогноза.

До 60-х годов предполагалось, что есть два класса процессов. Первые описываются динамическими системами, где будущее однозначно определяется прошлым. Они, как думали раньше, полностью предсказуемы. Великий Лаплас, имея в виду такие системы, говорил (если перевести его слова на современный язык), что, располагая достаточно мощными компьютерами, мы сможем заглянуть как угодно далеко в будущее и как угодно далеко в прошлое. Ко второму классу относятся процессы, где будущее не зависит от прошлого. Мы бросаем игральную кость и выпадает случайная величина, никак не связанная с тем, что выпадало раньше.

В 70-е годы было понято, что существует третий, очень важный класс процессов, которые формально описываются динамическими системами, как маятник на рис. 1, но их поведение может быть предсказано только на небольшой промежуток времени. А дальше исследователи будут вынуждены иметь дело со статистикой. Для нашего маятника можно создать простую линейную модель, которая позволит нам предсказать, в каком положении, например, окажутся маленькие шарики через пять колебаний большого шарика внизу (естественный временной промежуток здесь - период колебаний большого шарика). Используя современные информационные технологии, можно предсказать, в каком положении окажутся они через двадцать колебаний нижнего шарика. Однако никакими силами нельзя предсказать их положения через шестьдесят промежутков времени.

В 1963 г. Р.Брэдбери опубликовал фантастический рассказ, в котором фактически сформулировал идею динамического хаоса. В этом рассказе один из организаторов предвыборной кампании после победы своего кандидата отправляется в путешествие во времени. Фирма, организующая такую поездку, предлагает охоту на динозавров, которым в ближайшее время суждено умереть. Чтобы не нарушить сложную ткань причинно-следственных связей и не изменить будущее, следует двигаться по специальным тропам. Однако герой не смог выполнить этого условия и нечаянно раздавил золотистую бабочку. Возвратившись назад, он видит, что изменились состав атмосферы, правила правописания и итог предвыборной кампании. Едва заметное движение повалило маленькие костяшки домино, те повалили костяшки побольше, и, наконец, падение гигантских костяшек привело к катастрофе. Отклонения от исходной траектории, вызванные гибелью бабочки, стремительно нарастали (рис.2). Малые причины имели большие последствия. Математики называют это свойство чувствительностью к начальным данным.

Рис.2. Расходимость фазовых траекторий в системах с динамическим хаосом. Любая динамическая система определяет в фазовом пространстве траекторию, например X(t). Динамический хаос обусловлен тем, что соседние траектории удаляются от нее. Из-за этого малые причины могут иметь большие следствия


В том же 1963 г. мысль о принципиальной ограниченности нашей способности предсказывать даже в мире, который идеально описывается классической механикой, была высказана лауреатом Нобелевской премии Р.Фейнманом. Для существования горизонта прогноза не нужно, чтобы "Бог играл в кости", добавляя в уравнения, описывающие нашу реальность, какие-то случайные члены. Не надо опускаться на уровень микромира, на котором квантовая механика дает вероятностное описание Вселенной. Объекты, поведение которых мы не может предсказывать на достаточно большие времена, могут быть очень простыми, например, такими, как наш маятник.

То, что чувствительность к начальным данным ведет к хаосу, понял - и тоже в 1963 г. - американский метеоролог Э.Лоренц. Он задался вопросом: почему стремительное совершенствование компьютеров, математических моделей и вычислительных алгоритмов не привело к созданию методики получения достоверных среднесрочных (на две-три недели вперед) прогнозов погоды? Лоренц предложил простейшую модель конвекции воздуха (она играет важную роль в динамике атмосферы). Эта модель описывается внешне очень простыми уравнениями [1]:

x' = - s(x + y),
y' = -xz + rx - y,
z' = xy - bz,

где переменная х характеризует поле скоростей, у и r - поле температур жидкости. Здесь r = R / Rc, где R - число Рэлея, a Rc - его критическое значение; s - число Прандтля; b - постоянная, связанная с геометрией задачи. Компьютерный анализ системы Лоренца привел к принципиальному результату: динамический хаос, то есть непериодическое движение в детерминированных системах, где будущее однозначно определяется прошлым, имеет конечный горизонт прогноза.

С точки зрения математики, любая динамическая система, что бы она ни моделировала, описывает движение точки в фазовом пространстве. Важнейшая характеристика этого пространства - его размерность, или, попросту говоря, число величин, которые необходимо задать для определения состояния системы. С математической и компьютерной точек зрения, не так уж и важно, что это за величины - число рысей и зайцев на определенной территории, переменные, описывающие солнечную активность или кардиограмму, или процент избирателей, поддерживающих президента.

Если считать, что точка, двигаясь в фазовом пространстве, оставляет за собой след, то динамическому хаосу будет соответствовать клубок траекторий, например, такой, как показан на рис.3. Здесь размерность фазового пространства всего три (это пространство х, у, z). Для установившихся колебаний, соответствующих динамическому хаосу, Д.Рюэль и Ф.Такенс в 1971 г. предложили название - странный аттрактор. Пророчество А.Пуанкаре о том, что в будущем можно будет предсказывать новые физические явления, исходя из общей математической структуры описывающих эти явления уравнений, компьютерные эксперименты превратили в реальность.

Система Лоренца имеет конечный горизонт прогноза. Дело в том, что если мы вновь возьмем две близкие траектории, показанные на рис.3, то они расходятся (как на рис.2). Скорость расходимости определяется так называемым ляпуновским показателем, и от этой величины зависит интервал времени, на который может быть дан прогноз. Можно сказать, что для каждой системы есть свой горизонт прогноза [2, 3].

Рис.3. Аттрактор Лоренца. Такая картина, полученная на компьютере (расчет проводился при r = 28, s = 10, b= 8/3), убедила Э.Лоренца, что он открыл новое явление - динамический хаос. Этот клубок траекторий, называемый сейчас аттрактором Лоренца, описывает непериодическое движение с конечным горизонтом прогноза


Развитие науки показывает, что каждая фундаментальная теория не только открывала новые возможности, но и лишала нас иллюзий. Классическая механика лишила иллюзии, что можно построить вечный двигатель первого рода, термодинамика - второго, квантовая механика - что мы можем одновременно сколь угодно точно измерять координату микрочастицы и ее импульс, теория относительности - что удастся передавать информацию в вакууме со сверхсветовой скоростью. Сегодня нелинейная динамика развеяла иллюзию глобальной предсказуемости: мы не можем предсказать, начиная с какого-то горизонта прогноза, поведение многих достаточно простых систем и, в частности, нашего маятника.

В свое время работа Лоренца была опубликована в метеорологическом журнале, но в течение 10 лет она не была замечена. Метеорологи сегодня полагают, что горизонт прогноза для погоды не превышает трех недель. Другими словами, как бы точно мы ни измеряли параметры атмосферы, предсказать погоду с помощью имеющихся приборов через три недели в данном месте, вообще говоря, невозможно. Горизонт прогноза для состояния океана эксперты оценивают в месяц.

Сейчас многие специалисты по физике Солнца предполагают, что аналогичная ситуация имеет место с Солнцем. Например, известно такое явление, как минимум Маундера, когда в течение почти 70 лет всплесков солнечной активности не было. И возникает вопрос, можем ли мы предсказать следующий аналогичный минимум. Те работы, которые проводятся, показывают, что ляпуновские показатели таковы и горизонт прогноза таков, что этого предсказания на несколько десятилетий вперед сделать невозможно.

Однако нелинейная динамика позволила увидеть не только принципиальные трудности, но и новые замечательные возможности. Обратим внимание на одну из них. Попробуем определить, сколько нужно величин для того, чтобы описать поведение нашего простейшего маятника. Классическая наука утверждает, что величин нужно бесконечно много. В самом деле, маятник, очевидно, подчиняется законам механики, но для того, чтобы такая игрушка вращалась и не останавливалась из-за трения, должно создаваться электромагнитное поле. Формально наш маятник имеет бесконечно много степеней свободы.

Нелинейная динамика, анализируя системы такого рода, позволяет устанавливать, сколько переменных необходимо для их описания, сколько переменных нужно для прогнозирования, она помогает выяснить, каким должен быть их мониторинг. Оказывается, что для такой системы нужно не более десятка переменных. Это открывает совершенно новые возможности. У нас есть формально очень сложная система и нам требуется выделить из нее самое главное. Если раньше, в 60-е годы, был моден системный анализ, рассматривавший некие общие свойства систем, которые возникают у них, как у целого, то сейчас в Институте прикладной математики им. М.В.Келдыша РАН доминирует системный синтез. Такой синтез позволяет из массы переменных извлечь именно то, что нужно для принятия решения.

После того, как было понято, что есть принципиальные ограничения в области прогноза, созданы новые поколения моделей и алгоритмов, прогноз стал индустрией. Сейчас мы наблюдаем скачок в прогнозировании, который можно сравнить с тем, что произошло с наступлением эпохи персональных компьютеров. До персональных компьютеров ЭВМ были огромными и дорогими комплексами, которые были по силам только очень крупным фирмам. А после появления персональных компьютеров вычислительная техника стала доступна очень многим. То же самое происходит сейчас в области прогнозов. Прогнозирование перестало быть наукой, оно становится технологией. Если раньше "РЭНД корпорейшн" и несколько других коллективов обеспечивали прогнозами правительство США и еще несколько ведомств, то в наши дни даже не очень крупные фирмы имеют лаборатории, занимающиеся прогнозированием, или как чаще говорят, - "проектированием будущего".

Динамический хаос позволил в ряде случаев диагностировать серьезные заболевания по данным об электрической активности с помощью довольно простых компьютерных программ, предложить новые алгоритмы сжатия данных и защиты информации. Экономические прогнозы, опирающиеся на представления о хаосе и странных аттракторах, стали бурно развивающейся областью деятельности. Нельзя не вспомнить о "нелинейных журналах" - "Physica D", "Chaos", "Nonlinearity", "Physical Review E", "Известия вузов. Прикладная нелинейная динамика". Оказалось, что, с точки зрения прогноза, гораздо большее связывает объекты различных научных дисциплин, чем разделяет их.

Да, человек смертен, но это было бы еще полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус!
М.А.Булгаков "Мастер и Маргарита"

Управление рисками и прогноз редких катастрофических событий.

В области научных исследований, связанных с прогнозом, в центре внимания сейчас находятся описание и предсказание редких катастрофических событий. В свое время один из создателей современной химии и первый лауреат Нобелевской премии по химии Я.Вант-Гофф говорил: "Я убрал из своих трудов все то, что трудно наблюдать, и то, что происходит достаточно редко". Возможности, которые дают нам сегодня информационные технологии, позволяют обратиться к анализу и прогнозу редких катастрофических событий.

Приведем пример, показывающий, что самые разные катастрофические события могут развиваться по одним законам. Графики поведения характеристик, описывающих две сложно организованные иерархические системы - фондовый рынок и тектонический разлом - незадолго перед катастрофой, демонстрируют быстрый катастрофический рост, на который накладываются ускоряющиеся колебания (рис.4). Сглаженная кривая отлично описывается формулой

то есть мы имеем одно и то же решение уравнений, которых пока не знаем. Следует обратить внимание на то, что асимптотикой таких процессов перед катастрофой является так называемый режим с обострением (когда одна или несколько величин, характеризующих систему, за конечное время вырастают до бесконечности). Этот класс режимов более 30 лет исследуется в научной школе, сложившейся в Институте прикладной математики им. М.В.Келдыша РАН, под руководством одного из авторов этой статьи [6].

Рис.4. Характерный вид зависимости, возникающей перед катастрофами в сложных системах. а - зависимость от времени логарифма индекса Доу-Джонса (этот индекс определяется ценой самого эффективного пакета акций 30 ведущих компаний Соединенных Штатов) перед Великой депрессией [4]; б - зависимость от времени логарифма концентрации ионов хлора в родниках перед катастрофическим землетрясением в Кобе (Япония) в 1995 г. [5]. Точки - это точные данные, сплошная кривая - сглаженная зависимость, построенная по ним


В свое время Д. фон Нейман заявил: "Я не верю, что можно найти общие закономерности в поведении сложных систем. Это то же самое, что построить теорию не слонов". Развитие нелинейной динамики опровергло это утверждение. Нелинейная динамика позволила установить универсальные сценарии возникновения хаосаиз упорядоченного состояния [3]. То, что происходит сейчас в науке, показывает, что в ряде случаев можно говорить и о неких универсальных сценариях возникновения катастроф.

Лет тридцать назад Фейнмана спросили: "Если бы завтра все живущие ныне физики погибли и от всех них в будущее можно было бы передать только одну фразу, что бы вы сказали?"

"Весь мир состоит из атомов и пустоты - ответил Фейнман. - Остальное они додумают". Если бы такой же вопрос сейчас был задан всем ученым, а не только физикам, вероятно, фраза должна была бы быть иной: "Научитесь управлять рисками". Управление рисками - одна из важнейших технологий нашей цивилизации [7, 8]. Она соответствует магистральному пути прогресса - менять одни угрозы и опасности на другие. Например, опасность голодать и мерзнуть - на риск пожинать плоды заражения воды, земли, воздуха, связанные с работой тепловых или атомных станций.

Не надо думать, что здесь "иного не дано", что здесь можно только плыть по течению. Иное дано. Швеция приняла решение отказаться от атомной энергетики как от слишком опасной технологии. В то же время во Франции, где более 70% электроэнергии производится на атомных электростанциях, правительство рассматривает форсированное развитие этой отрасли как важнейший способ сохранения окружающей среды. Цена вопроса весьма высока, и свобода маневра достаточно велика.

Глубокая связь между идеями нелинейной динамики и управлением рисками стала ясна недавно. Осознать ее помогла парадоксальная статистика аварий. Вспомним "Титаник", "Челленджер". Чернобыль, Тримайл, Бхопал... Каждая из этих крупнейших катастроф XX в. связана с длинной цепью причинно-следственных связей, с "неблагоприятным стечением многих маловероятных случайных обстоятельств", как часто пишут в актах государственных комиссий. И в самом деле, вздумай злоумышленник специально сделать что-то подобное, ему пришлось бы трудно. При знакомстве с бедствиями не оставляет чувство, что нам просто очень не везет.

Что же является математическим образом этого "невезения"?

Выше уже звучало слово "случайность". В начале XIX в. К.Гаусс установил, что сумма независимых, одинаково распределенных случайных величин подчиняется вполне определенному закону. Соответствующая ему кривая, получающаяся после нормировки, показана на рис.5. Видно, что она очень быстро убывает, большие отклонения, в соответствии с этим законом, очень редки. Настолько редки, что ими можно пренебречь.

Гауссово распределение лежит в основе множества инженерных расчетов и технических норм. Все инженеры знают, что есть "правило трех сигм". Это правило говорит о том, что вероятность отклонения случайной величины от среднего значения более, чем на три "сигмы", составляет менее 0.001 (см. рис.5). "Сигма" здесь - среднеквадратичное отклонение. Простой пример: по закону Гаусса распределен рост людей, поэтому вероятностью встречи с трехметровым гигантом с легким сердцем можно пренебречь.

Рис.5. Типичный вид нормального (1) и степенного (2) распределений. В соответствии с нормальным, гауссовым, распределением большие отклонения настолько редки, что ими можно пренебречь. Однако многие бедствия, аварии, катастрофы порождают статистику со степенным распределением, которое убывает медленнее, чем нормальное распределение, поэтому катастрофическими событиями пренебречь нельзя. В логарифмическом масштабе (внизу) степенные зависимости приобретают вид прямых линий

Но есть и другой класс законов, которые называют степенными (см. рис.5). "Хвост" этого распределения убывает гораздо медленнее, поэтому такие законы часто называют "распределениями с тяжелыми хвостами". В этом случае большими отклонениями пренебречь нельзя. Если бы по такому закону был распределен рост, то это был бы уже мир восточных сказок с тридцатиметровыми джиннами, ифритами, дэвами, которы.е вполне могли встретиться в жизни простых смертных. Именно в мире восточных сказок мы обычно и оказываемся, сталкиваясь с бедствиями, катастрофами, авариями. Такова статистика землетрясений, наводнений, ураганов, инцидентов с хранением ядерного оружия, биржевых крахов, ущерба от утечки конфиденциальной информации, многих других невзгод.

Чтобы не быть голословным, приведем американскую статистику торнадо, землетрясений, наводнений, ураганов за прошедший век (рис.6). Видим, что данные наблюдений с достаточно хорошей точностью ложатся на прямые, которые соответствуют идеальной степенной статистике.


Рис.6. Распределение торнадо (7), наводнений (2), ураганов (3) и землетрясений (4) по количеству погибших в них в США в XX в. По оси абсцисс отложена фатальность F стихийного бедствия, измеряемая логарифмом числа погибших, по оси ординат - логарифм числа бедствий N, имеющих фатальность не меньше данной. Идеальным степенным законам соответствуют прямые. Видно, что эти законы являются хорошим приближением для реальной статистики бедствий и катастроф

Когда мы определяем, браться ли нам за какой-то технический проект или не браться, то есть несколько подходов. Первый подход был реализован и доведен до совершенства еще во времена Колумба: определяются все возможные исходы N, их вероятности pi, умножается на соответствующие выигрыши или проигрыши xi и суммируется:

И в зависимости от того, какая величина получится, мы беремся за этот проект или не беремся.

Следует отметить, что единственной экспедицией, которая пошла за государственный счет в Новый Свет, была экспедиция Колумба. А после этого в Испании торговые дома начали заниматься страхованием и перестрахованием таких проектов, потому что финансовый риск для отдельного торгового дома был слишком велик. Но зато и выигрыш был очень велик. Исторический анекдот: Ф.Дрейк после своей экспедиции в Новый Свет преподнес английской королеве подарок, который равнялся двум годовым бюджетам Англии. И королева расплатилась со всеми долгами. Итак, в нашем мире действительно есть много очень опасных, но и очень выгодных проектов. И на этой основе, заложенной еще во времена Колумба, до 50-х годов XX в. оценивались очень многие технические инициативы.

Однако еще в XVIII в. был замечен следующий парадокс. Представим такую игру: мы бросаем монетку - выпадает орел или решка. Если выпал орел, вы получаете два золотых дуката, и игра заканчивается. Если орел выпал во второй раз, вы получаете четыре золотых дуката, и игра заканчивается, если в третий раз - восемь. При этом сумма S1, которая входит в "колумбов алгоритм", бесконечна. Спрашивается, сколько можно заплатить за право войти в такую игру?

Бернулли, который в Санкт-Петербурге наблюдал за такой игрой, был поражен тем, что люди готовы платить за это не более 20 дукатов. Когда человек оценивает вероятность и решает. следует ли рисковать, то, по мнению Бернулли, он действует не по "колумбову алгоритму". Он оценивает не реальный выигрыш, а полезность выигрыша:

где U(xi) - функция полезности. Если у вас есть рубль, то 100 рублей для вас - огромный выигрыш. А если у вас есть 1000 рублей, то 100 рублей вы цените гораздо меньше, его "полезность" для вас гораздо меньше. В середине XX в. фон Нейман показал, что в экономическом поведении для массы ситуаций "бернуллиевский алгоритм" хорош.

Однако дальнейшие исследования экономического поведения, в частности работы М.Алле и его школы, показали, что алгоритм принятия решений у людей во многих ситуациях иной, более сложный. Человек имеет дело не с формулой Бернулли, а с формулой, где есть не только функция полезности, но и субъективные вероятности f (pi), отражающие наши представления об опасности [9]:

Психологи утверждают, что если человеку сообщают, что риск меньше 10-6 год-1, то он просто игнорирует эту возможность, то есть для того, чтобы анализировать какие-то проекты, мы должны иметь некую систему оценок.

В 50-е годы предполагалось, что люди, если им регулярно платят зарплату и они имеют достаточную квалификацию, способны обеспечить абсолютную безопасность работы любого объекта. Но в рамках Государственной научно-технической программы "Безопасность" (руководитель член-корреспондент РАН Н.А.Махутов) удалось показать, что разумнее действовать так, как действуют во всем мире, а именно, выделяя проектные, запроектные и гипотетические аварии (рис.7). Последствия проектных аварий (для них есть некая вероятность) компания должна устранять сама, последствия запроектных (свои вероятности) должны ликвидировать МЧС и соответствующие организации, которые могут это делать. Что касается гипотетических аварий, то их вероятностью, как еще недавно считали, можно пренебречь.

Рис.7. Типичная схема оценки аварий. В случае "гауссовых бедствий" выделяют проектные, запроектные и гипотетические аварии. Вероятность первых определяется площадью криволинейной трапеции ABEF, запроектных - BCDE, гипотетических - площадью участка под кривой, лежащим справа от линии DC. Для наглядности площади, соответствующие запроектным и гипотетическим авариям, на рисунке значительно увеличены


Исходя из этого положения, в нашей стране проектировали очень многое, начиная с систем вооружений и кончая атомными станциями. Оказалось, что предположение о гауссовой статистике, собственно, и приводит к заключению о том, что вероятность возможной аварии на атомной станции 10-7 год-1, то есть одна авария за 10 млн. лет. Однако, как показали проведенные в последние годы исследования, во всех этих случаях мы имеем дело со степенной статистикой. Поэтому оценки должны быть совершенно другие. В случае "степенных бедствий" надо рассчитывать на худшее. Чтобы представить масштаб редких катастрофических событий, достаточно напомнить несколько эпизодов из истории XX в. При наводнении 1931 г. на реке Янцзы в Китае погибло 1.3 млн. человек, при Тянь-Шанском землетрясении в 1976 г. - около 650 тыс. Наводнение в Бангладеш в 1970 г. унесло более 500 тыс. жизней и оставило без крова 28 млн. человек [8].

В управлении риском основное и наиболее важное связано не только с описанием, со статистикой, с пониманием механизмов, но и с тем, что в ряде случаев можно определить предвестники. Пример такого поведения дает интересное явление, которое называется жесткой турбулентностью. В 70-х годах его обнаружили в физике плазмы, а в последнее время в самых разных системах типа "реакция-диффузия". Пусть есть некая величина, которая меняется в хаотическом режиме, но иногда совершает гигантские скачки (рис.8).


Рис.8. Типичная картина при возникновении жесткой турбулентности. На "хаотическом фоне" изредка возникают гигантские пики

И вот для таких модельных задач удается выявить предвестники, которые сигнализируют об опасности. Еще ничего не произошло, катастрофа далеко, а некоторая медленно меняющаяся переменная уже говорит о том, что мы вошли в опасную область (рис.9). Сейчас такие вещи ищутся для многих реальных систем.


Рис.9. Изменение медленных переменных Р, М и logE - перед гигантскими пиками. Наиболее важна с точки зрения предупреждения катастрофических событий переменная М

Ряд усилий, связанных с разработкой и приложением теории управления риском, предпринимается в рамках принятой по инициативе МЧС России Федеральной целевой программы по предупреждению и смягчению последствий чрезвычайных ситуаций в природной и техногенной сфере. В этой программе акцент сделан на прогнозе и предупреждении бедствий и катастроф, поскольку прогноз и предупреждение, с экономической точки зрения, обходятся в десятки, а иногда и в сотни раз дешевле, чем ликвидация последствий уже происшедших бед. Однако масштаб этих работ в стране, на наш взгляд, пока не соответствует их значению. Здесь нужен широкий междисциплинарный подход и гораздо более активное участие Академии наук. Многие вещи здесь должны быть пересмотрены и переоценены.

Чем фундаментальнее закономерность, тем проще ее можно сформулировать.
Петр Капица
Парадигма сложности и теория самоорганизованной критичности.

Откуда берется степенная статистика? Ответ на этот вопрос дает новая парадигма нелинейной динамики - парадигма сложности и построенная в ее рамках теория самоорганизованной критичности [10, 11].

Степенные зависимости характерны для многих сложных систем - разломов земной коры (знаменитый закон Рихтера-Гутенберга), фондовых рынков, биосферы на временах, на которых происходит эволюция. Они типичны для движения по автобанам, трафика через компьютерные сети, многих других систем. Для всех них общим является возникновение длинных причинно-следственных связей. Одно событие может повлечь другое, третье, лавину изменений, затрагивающих всю систему. Например, мутация, с течением времени меняющая облик биологического вида, влияет на его экологическую нишу. Изменение экологической ниши этого вида, естественно, сказывается на экологических нишах других видов. Им приходится приспосабливаться. Окончание "лавины изменений" - переход к новому состоянию равновесия - может произойти нескоро.

Простейшая физическая модель, демонстрирующая такое поведение, - это куча песка. Представим следующую картину. Мы бросаем песчинку на самый верх кучи песка. Она либо останется на ней, либо скатится вниз, вызывая лавину. В лавине может быть одна или две песчинки, а может быть очень много. Статистика для кучи песка оказывается степенной, как для ряда бедствий и катастроф. Она очень похожа на ту статистику, которую мы имеем, скажем, для землетрясений, то есть опасность находится на грани между детерминированным и вероятностным поведением или, как сейчас говорят, на кромке хаоса.

Исследование сложных систем, демонстрирующих самоорганизованную критичность, показало, что такие системы сами по себе стремятся к критическому состоянию, в котором возможны лавины любых масштабов. Поскольку к системам такого сорта относится биосфера, общество, инфраструктуры различного типа, военно-промышленный комплекс, множество других иерархических систем, результаты теории самоорганизованной критичности очень важны для анализа управляющих воздействий, разработки методов защиты и разрушения.

Исследования, связанные с разработкой парадигмы сложности, и прогнозирование на ее основе широко разворачиваются в мире. В частности, в США создан Институт сложности в Санта-Фе. Его руководителем стал лауреат Нобелевской премии по физике М.Гелл-Манн, одним из сотрудников - нобелевский лауреат по экономике Б.Артур. Институт занимается различными задачами - от прогнозирования бедствий и компьютерной имитации экономических процессов до разработки сценариев дестабилизации политических режимов и искусственной жизни [12]. Работы, связанные с парадигмой сложности, ведутся в России в нашем институте и нескольких других институтах академии. Однако их масштаб далек от необходимого.

Природа, чем она ни будь,
Но черт ее соавтор -
Вот в чем суть.
И.Гёте "Фауст"

Почему нам удается предсказывать?

Если предсказывать, даже с помощью современных компьютерных технологий, так непросто, то как же мы ориентируемся в нашем сложном и быстро меняющемся мире? Как нам удается разумно действовать, несмотря на свой весьма скромный горизонт прогноза? Попытки получить ответ на эти вопросы, а с ним и алгоритмы прогноза, предпринимаются в создаваемой сейчас теории русел и джокеров.

Одним из ее авторов по праву может считаться известный финансист Дж.Сорос. В своей "Алхимии финансов" он выдвинул идею "информационной", или "рефлексивной" экономики. В соответствии с ней такие переменные, как "уровень доверия", "ожидаемые прибыли" и многие другие, характеризующие нашу "виртуальную реальность", играют ключевую роль в современной экономике. Именно они позволяют строить, а затем уничтожать величественные финансовые пирамиды. Но именно эти переменные могут меняться скачком, что совершенно не характерно для математических моделей, построенных в естественных науках.

Другими словами, в фазовом пространстве многих объектов, с которыми мы имеем дело в жизни, есть места, называемые областями джокеров, в которых случайность или игровой элемент либо фактор, не имеющий никакого значения в другой ситуации, может оказаться решающим и не только повлиять на судьбу системы, но и скачком перевести ее в другую точку фазового пространства. Правило, по которому совершается этот скачок, и называется джокером. Название пришло из карточной игры. Джокер - карта, которой можно присвоить статус любой карты по желанию играющего. Понятно, что это резко увеличивает число вариантов и степень неопределенности.

Простой пример. Допустим, у нас есть небольшой банк. И дела день ото дня идут все хуже. Да и как может быть иначе в эпоху кризиса? Пора принимать решение. Первое, наиболее естественное (оно принимается с вероятностью p1, при этом система скачком переходит в точку фазового пространства a1 рис.10) - организовать презентацию в "Хилтоне". Шумиха, журналисты, новые клиенты и возможности. Второе - поступить как честные люди и объявить о банкротстве (вероятность p2 и соответственно точка a2). Наконец, можно подумать о семье и близких друзьях и улизнуть, прихватив всю оставшуюся наличность, чтобы с другого берега океана поучать местных реформаторов (вероятность p3, и точка a3). Видим, что у нас вновь и вновь возникает симбиоз динамики, предопределенности и случайности.

Рис.10. Система с руслами и джокерами. Картинка, возникающая в задаче в разорением банка. Небольшая область внутри окружности соответствует области джокера, в которой надо принимать серьезные меры

Можно перевести сказанное на медицинский язык. Вдали от области джокера эффект должна давать терапия, а в самой области - только хирургия. Ситуация в этом случае может измениться быстро и радикально.

Но если нам не везет с прогнозами в области джокера, то где-то должно и везти. Подумаем: что значит "везет с прогнозом"? Это значит, что поведение системы с устраивающей нас точностью определяется лишь несколькими переменными, а обо все остальном в первом приближении можно забыть. Кроме того, у нас должна быть возможность предсказывать на довольно большой срок. Области фазового пространства, где осуществляются данные условия, были названы руслами [13].

Вероятно, способность эффективно выделять русла, учиться не только методом проб и ошибок, совершенствуя свою предсказывающую систему, но и опираясь на здравый смысл, и дала человечеству решающее преимущество в ходе эволюции. Можно взглянуть и более широко: разные теории, подходы, науки оказываются полезными и ностребованными, если они удачно нашли свои русла. Ведь наука - это искусство упрощать, а упрощать особенно удобно, имея дело с руслами. Разумеется, "в среднем", "в общем случае" мы не можем заглянуть за горизонт прогноза, но "в частности", оказавшись в области параметров, соответствующих руслу, и осознав это, можно действовать разумно и осмотрительно.

Но тут возникает вопрос: где начинается и где кончается русло? Какова структура нашего незнания? Как от одного информационного поля и одних представлений, адекватных этому руслу, переходить к другим, когда это русло закончилось? Знакомясь с разными экономическими, психологическими, биологическими теориями, трудно отделаться от ощущения, что, сами того не осознавая, их создатели имеют дело с разными реальностями, с разными руслами. Это сродни дополнительности в квантовой механике, когда ответ на вопрос, является электрон волной или частицей, зависит от конкретного эксперимента.

ПРОГНОЗ И ДИНАМИКА СЛОЖНЫХ
СОЦИАЛЬНО-ТЕХНОЛОГИЧЕСКИХ СИСТЕМ.

После того как мы осознали существование горизонта прогноза, поняли, с системами какой сложности можно иметь дело, уточнили вопросы, которые можно задать, и данные, необходимые для того, чтобы ответить на эти вопросы, мы получили инструмент для описания самых разных явлений и процессов. Он особенно полезен при прогнозировании поведения социально-технологических систем, для которых пока не известны количественные законы, определяющие их динамику.

Моделирование развития высшей школы.

В 1994 г. к нам обратилось Министерство образования России и Всемирный банк реконструкции и развития. Речь шла о выделении кредита на реконструкцию высшей школы в размере 2 млрд. долл. (Были достаточно благополучные, в сравнении с нынешними, времена.) И тогда возник вопрос: если будут реализованы пожелания Всемирного банка, то к чему это приведет в 5-, 10-, 20-летней перспективе на макроуровне (на уровне макроэкономики), на среднем уровне, на микроуровне? Остановимся на макромодели.

Мы проанализировали статистику ООН, исходя из представлений нелинейной динамики. Оказалось, что индустриальное развитие и роль науки и образования могут быть определены (если мы хотим получить грубую качественную картину) в результате компьютерного анализа дискретного отображения для трех переменных [14]. Одна переменная характеризует ресурсы, другая - производство, валовой внутренний продукт и третья - науку плюс образование (рис.11). В этой системе есть две ключевые величины. Первая - время запаздывания. Если наука и образование начнут завтра работать намного лучше, чем сейчас, то экономика это почувствует с запаздыванием от трех до пяти лет. Вторая - восприимчивость к инновациям. По данным известной нам статистики, если принять восприимчивость японской экономики за 10, то восприимчивость американской экономики будет 8, Западной Европы - 6, Советского Союза - 1.

А теперь обсудим некую модельную ситуацию. Страна, имеющая богатые ресурсы, начинает индустриализацию и вкладывает деньги в науку. Но коэффициент восприимчивости ее экономики - ноль. В стране активно развивается наука, но поскольку экономика не воспринимает никакие научные исследования, то в конце концов мы оказываемся на уровне возобновляемых ресурсов (рис.11, а). В этой ситуации совершенно иной становится роль науки: она нужна для того, чтобы найти новые источники развития. Например, известно, что соли урана в 30-е годы рассматривались как прекрасные красители. А потом оказалось, что уран годен для чего-то еще.


Рис.11. Макроэкономические траектории экономики, невосприимчивой к нововведениям (а), восприимчивой к инновациям (б), восприимчивой к инновациям при урезании финансирования (в). Кривые показывают, как меняются выраженные в условных единицах ресурсы (1), объем производства (2) и научно-технический потенциал (3) в некоторой стране с течением времени; а - соответствует "банановой республике", б - ситуация, когда общество достигает некоторого уровня развития, после чего происходит смена основных ресурсов развития и дальнейший рост обеспечивается интеллектуальной сферой, в - ситуация, когда в результате сокращения вдвое финансирования интеллектуальной сферы к критическому моменту начала спада производства развитие этой сферы не достигло необходимого уровня и не смогло оказать заметного влияния на развитие общества

Предположим теперь, что в результате неких реформ нам удалось поднять восприимчивость экономики. Послереформенная ситуация близка к тому, что происходило в Японии, где имел место форсированный рост (рис.11, б). И если на этом резком росте сократить вдвое финансирование образования и науки, то страна окажется в той же ситуации, что была вначале (рис.11, в). Мы попали в ловушку: наука не финансируется, потому что экономика бедна; экономика бедна, потому что нет разработок и эффективных технологий.

Модели Всемирного банка реконструкции и развития, с которыми мы сравнивали наши результаты, дают примерно такую же картину. Эксперты банка считают, что для России выход на устойчивый низкопродуктивный режим был бы нормальным. Но мы мыслим несколько иначе.

На пути к "социологии быстрого реагирования".

Сейчас открываются совершенно новые возможности в области управления обществом. Чтобы охарактеризовать их, воспользуемся термином "социальный барометр", или "социология быстрого реагирования". Что это означает?

Допустим, что мы измеряем параметры нашего общества. Спрашивается, сколько переменных на самом деле характеризуют его? Данные социологических опросов и имеющиеся во многих регионах России информационные возможности позволяют проводить подробный мониторинг общества - это десятки и сотни показателей. С помощью компьютерных сетей такой мониторинг можно осуществлять с интервалом в дни или часы. Но что делать с этой огромной и, очевидно, важной информацией? Ведь лицо, принимающее решения, способно удержать в поле зрения только несколько факторов и несколько количественных показателей (психологи утверждают, что не более семи). Как выбрать эти показатели и помочь принимать разумные и взвешенные решения?

То, что помочь можно, показывает такая несложная вещь, как барометр. Пусть мы не умеем (или не знаем как) эффективно решать уравнения, описывающие динамику атмосферы, на основе которых можно было бы предсказывать погоду. Но барометр перед бурей предупреждает, что нас могут поджидать проблемы.

Для социальных систем компьютерные технологии могут служить своеобразным барометром: они "сворачивают" имеющуюся информацию в несколько показателей, которые помогают принять решение. В основу этих подходов легли методы, апробированные при прогнозе землетрясений [8]. Мы не знаем уравнений, решая которые можно прогнозировать катастрофу, однако имеем огромный массив данных, используя которые можем "научить" прогнозировать соответствующие компьютерные системы. Работа над применением этих подходов в социологии ведется нами с И.В.Кузнецовым и его коллегами из Международного института математической геофизики и теории прогноза землетрясений РАН, а также с С.А.Кащенко и исследователями из Ярославского государственного университета.

И здесь хотелось бы предостеречь относительно преувеличенных ожиданий, типичных для общества, связывающего слишком много надежд с компьютерными технологиями. Вначале предполагалось, что автоматизированные системы управления позволят резко повысить эффективность экономики. Но экономика оказалась не готова к этому. Большие надежды возлагались на вычислительный эксперимент, связанный с компьютерным решением различных уравнений. Но выяснилось, что для описания многих важных объектов у нас нет соответствующих уравнений, а если они и есть, то определение коэффициентов и настройка модели сами по себе представляют исключительно сложную задачу.

"Ахиллесовой пятой" алгоритмов прогноза для социально-экономических систем и задач по управлению риском являются данные. Для того чтобы "научить" соответствующие компьютерные системы, нужно иметь длинные ряды достоверных и достаточно точные данных, характеризующих различные стороны изучаемого объекта. Пока этого практически нигде нет. Восполнив этот пробел, можно повысить качество прогноза.

Когда начинаешь работать с социологическими данными, то выясняется много удивительных вещей. Оказалось, что на многие события Москва и Санкт-Петербург среагировали в противовес всей остальной стране (рис.12). Естественно, такое поведение связано с социально-экономической структурой общества, со шкалой ценностей. Используя обсуждаемые походы, многие выводы, сделанные исследователями из Института социально-политических исследований РАН [15], можно подтвердить и обосновать количественно на другом, более глубоком уровне.

Рис.12. Разность между позитивными (и нейтральными) и негативными ответами на вопросы ВЦИОМ в Москве и Санкт-Петербурге и в остальной России. а - "Что бы вы могли сказать о своем настроении в последние дни?"; б - "Как бы вы оценили в настоящее время материальное положение вашей семьи?"

Такие методики, как и большинство научных результатов, являются обоюдоострыми. Опираясь на них, с одной стороны, можно еще более успешно, чем теперь, манипулировать поведением электората. С другой стороны, они показывают, каковы основные переменные, параметры порядка в общественном сознании. Именно они определяют и основные будущие проблемы, и возможности выхода России из кризиса.

Инновационное развитие. Сценарии для России.

Сейчас многие надежды связываются со словами "инновационная экономика". И мы в Институте прикладной математики вместе с коллегами из других академических институтов занимаемся по поручению Министерства промышленности, науки и технологий РФ исследованием возможностей выхода России на траекторию устойчивого развития и перехода к инновационной экономике.

Проведенный анализ показал, что в десятилетней перспективе сложной социально-экономической системе, каковой является мир России, угрожает коллапс. Системный кризис подвел страну к черте, где закритический износ основных фондов ведет к череде техногенных и социальных катастроф, рост цен на энергоносители - к окончательному уничтожению обрабатывающей промышленности, повышение транспортных тарифов - к необратимому распаду страны. При сохранении нынешних тенденций произойдет окончательная утрата суверенитета, распад страны, уход российского этноса с исторической арены.

Из-за своего географического и геоэкономического положения, в силу высокой энергоемкости производства и жизни в холодной стране, 4/5 территории которой лежит в зоне вечной мерзлоты, Россия не может сколь-нибудь долгое время быть сырьевым придатком стран "золотого миллиарда" [16]. Поэтому жизненно важным стал вопрос о новых ресурсах развития [14]. Одна из возможностей связана с переориентацией экономики на производство высокотехнологичной продукции в нескольких отраслях. Правительством России заявлен курс на переход от "экономики трубы" к инновационному развитию.

Официальный взгляд на развитие инноваций ориентирован на неолиберальную концепцию и следование зарубежным образцам. Это - трактовка инноваций как нововведений, нашедших место на рынке, ставка на развитие венчурного предпринимательства, понимание роли государства как арбитра, обеспечивающего условия и инфраструктуру для внедрения инноваций. Исследования, проведенные сотрудниками Института прикладной математики и других академических институтов, показали, что это тупиковый путь для России.

Инновации в России в настоящее время должны обеспечивать решение стратегических задач по жизнеобеспечению населения, по постепенному переходу страны на траекторию прогрессивного устойчивого развития, а не по "заполнению рынка", "обеспечению макроэкономической стабилизации" и т.д. Большинство жизненно важных для России инноваций имеет нерыночный характер. Это производство качественных и доступных населению продуктов питания и лекарств, строительство жилья и дорог, обеспечение коммуникаций, ресурсосберегающие технологии, нововведения, повышающие безопасность техносферы. Многие из широко обсуждаемых сейчас инноваций [16, 17] нужны не для гармонизации экономики, а для выживания страны. На передний план выходят надежность, долговечность, ремонтопригодность новых образцов техники для России.

Единственным заказчиком таких инноваций может и должно выступить государство. Оно должно вновь взять на себя важнейшую функцию - функцию целеполагания в области экономики и социального развития. Это требует принципиально иного уровня координации по сравнению с нынешним, гораздо более высоких требований к прогнозу и мониторингу социально-экономической системы. Это предполагает воссоздание на основе новых методов социального управления, прогнозирования, современных информационных технологий такой структуры, как Госплан России.

Его первоочередными задачами должны стать:

  • повышение достоверности и качества прогноза;
  • инвентаризация ресурсов, которыми располагает Россия;
  • определение коридора возможностей страны при альтернативных стратегиях развития;
  • детализация выбранной политики (не только в стоимостных, но и в натуральных показателях).

Следует отдать себе отчет, что страна находится в чрезвычайной ситуации, в историческом тупике. Чтобы вывести ее оттуда, нужны программы масштаба "Нового курса" Рузвельта [18]. Выработка такого курса должна стать одной из главных задач и для научного сообщества, и для руководства страны.

Возвращаясь к инновациям, заметим, что переменные, которые Минпромнауки считало ключевыми, и механизмы, которые признавались важными, - инновационно-производственные комплексы, их форсированное развитие и выход на рынок и т.д. - на самом деле второстепенные. Когда мы проанализировали те позиции, на которые возлагали надежды, оказалось, что эти надежды не оправданы. Важны не сами инновационно-производственные комплексы, а их симбиоз. Конкретная ситуация - Зеленоградский инновационно-производственный комплекс. Есть завод "Протон", который является донором для массы мелких предприятий. Каждое из них получает деньги у государства. Но если мы подсчитаем итог - сколько такое предприятие получает и сколько оно вкладывает в ВВП, - то оказывается, что дают они примерно в 10 раз больше, чем получают. Поэтому, стимулируя инновации в этом конкретном случае, надо думать не только о мелких фирмах, но прежде всего о заводе "Протон". Как видим, когда с позиций нелинейной динамики и информационных процессов анализируешь, казалось бы, очевидные вещи, то результаты могут быть весьма неожиданными.

Теоретическая история или поиск альтернатив. В свое время А.Тойнби, один из выдающихся историков нашего века, написал очень короткую работу, некую "историческую ересь", как он ее потом называл в своих воспоминаниях, - "Если бы Филипп и Артаксеркс уцелели" [19]. Известно, что Александр Македонский пришел к власти в результате заговора, который, как говорят, устроила его мать. Именно поэтому мать очень быстро погибла. По мнению Тойнби, история сложилась бы радикально иначе, если бы не было Александра Македонского и, соответственно, его оппонента. Не было бы Рима, не наступила бы эпоха громадных империй в Европе, и длительное время сохранялись бы очень хорошие перспективы развития у городов-государств. В то же время восточные деспотии медленно трансформировались бы, сохраняя стабильность.

Те техники, методики, формализм, которые предлагаются в нелинейной динамике и активно развиваются, позволяют для неких простейших модельных ситуаций выявлять альтернативы исторического развития [14, 20, 21]. Приведем пример, относящийся к ситуации, рассмотренной Тойнби. Компьютерные расчеты плотности населения для Средиземноморья дают два варианта (рис.13). В первом есть Рим, и история сложилась именно так, как сложилась. И действительно в 96% случаев компьютерные расчеты дают именно этот вариант. Но есть еще 4%, когда история идет совсем иначе: нет Рима, значит, нет римской цивилизации, а форсированным образом развивается Греция. Иначе говоря, компьютерный анализ допускает существование обеих возможностей, которые увидел Тойнби.


Рис.13. Результаты компьютерного расчета плотности населения в Средиземноморье Слева - вариант, реализовавшийся в истории, справа - альтернативный, когда нет Рима и Римской империи

Разумеется, эти простейшие модели весьма условны. Они учитывают только элементарные взаимосвязи между природными, социальными, демографическими факторами - очень небольшой набор в сравнении с огромным массивом данных, которым оперируют профессиональные историки. Однако даже учет этих немногих взаимосвязей позволяет увидеть исторические альтернативы. Можно надеяться, что более сложные модели такого типа будут полезны в стратегическом планировании и со временем история будет все чаще играть роль "прикладной науки", - роль оселка, на котором оттачиваются модели мировой динамики, значение которых в связи с концепцией устойчивого развития возрастает.

Итак, между учеными, работающими в разных научных дисциплинах, достигнуто общее понимание принципиальных проблем в области прогноза и фундаментальных ограничений, связанных с предсказанием. Для того чтобы разумно строить политику - технологическую, инновационную, экономическую, - исключительно важно в ряде случаев иметь как прогноз, так и коллективы, способные такой прогноз давать.

ЛИТЕРАТУРА

1. Lorenz E.N. Deterministic nonperiodic flow // Journ. of the Atmospheric Science. 1963. V. 20. P. 130-141.

2. Пределы предсказуемости. М.: Центрком, 1997.

3. Малинецкий Г.Г. Хаос. Структуры. Вычислительный эксперимент. Введение в нелинейную динамику. М.: Эдиториал УРСС, 2000.

4. Sornette D., Johansen A. Large financial crashes // Physica A. 1997. V. 245. N 3-4.

5. Johansen A., Sornette D. et al. Discrete scaling in eartquake precursory phenomena: Evidence in Kobe earthquake, Japan // J. Phys. France. 1996. V. 6.

6. Режимы с обострением. Эволюция идеи: Законы коэволюции сложных структур. М.: Наука, 1998.

7. Reduction and predictability of natural disaster / Eds. J.B. Rundle. D.L. Turcotte, W. Klein // PROceedings of the workshop "Reduction and predictability of natural disasters" held January 5-9, 1994 in Santa Fe. New Mexico, 1995.

8. Владимиров B.A., Воробьев ЮЛ., Малинецкий Г.Г. и др. Управление риском. Риск, устойчивое развитие, синергетика. М.: Наука, 2000.

9. Ларичев О.И. Теория и методы принятия решения. М.: Логос, 2000.

10. Bak P. How nature works: the science of self-organized criticality. New York: Springer-Verlag Inc., 1996.

11. Малинецкий Г.Г., Подлазов А.В. Парадигма самоорганизованной критичности. Иерархия моделей и пределы предсказуемости // Известия вузов. Прикладная нелинейная динамика. 1997. Т. 5. N5.

12. Waldrop MM. Complexity: The emerging science at the edge of order and chaos. New York: Touchstone, 1993.

13. Малинецкий Г.Г., Потопов А.Б. Современные проблемы нелинейной динамики. М.: Эдиториал УРСС, 2000.

14. Капица С.П., Курдюмов С.П., Малинецкий Г.Г. Синергетика и прогнозы будущего. М.: Наука, 1997.

15. Россия у критической черты: возрождение или катастрофа: Социальная и социально-политическая ситуация в России в 1996 году: анализ и прогноз / Под ред. Г.В. Осипова, В.К. Левашова, В.В. Локосова. М.: Республика, 1997.

16. Паршев А.П. Почему Россия не Америка. М.: Форум, 2000.

17. Вайцзеккер Э., Левине Э., Левине Л. Фактор четыре. М.: Acadernia, 2000.

18. Рузвельт Ф.Д. Беседы у камина. М.: Государственная дума РФ, 1995.

19. Тойнби А.Дж. Если бы Филипп и Артаксеркс уцелели // Знание - сила. 1994. N 8.

20. Малков С.Ю., Ковалев В.И., Малков А.С. История человечества и стабильность (опыт математического моделирования) // Стратегическая стабильность. 2000. N 3.

21. ЧернавскийД.С., Пирогов Г.Г. и др. Динамика экономической структуры общества // Известия вузов. Прикладная нелинейная динамика. 1996. Т. 4. N3.

Текст цитируется по http://vivovoco.nns.ru/