Истоками
современной теории марковских процессов являются, с одной стороны, работы
А.А. Маркова (1906-1917) о последовательностях
испытаний, "связанных в цепь", с другой стороны, попытки математического
описания, известного под названием броуновского движения (Л. Башелье (1900),
А. Эйнштейн (1905)).
Цепи Маркова с конечным числом состояний ввел Марков А.А. [3]. Марков заложил
основания теории конечных цепей Маркова, однако конкретные приложения ограничивались
главным образом тасованием карт и лингвистическими задачами. Теоретическое
изучение проводилось обычно алгебраическими методами.
В 1931 г. была опубликована статья А.Н.
Колмогорова "Об аналитических методах в теории вероятностей", в которой
были заложены основы теории марковских процессов. получены уравнения (прямые
и обратные), которые управляют вероятностями перехода. Колмогоров [2],
[1] рассмотрел случай счетного множества состояний.
Теория цепей с бесконечным числом состояний была введена А.Н. Колмогоровым.
Этот новый подход сделал эту теорию доступной более широкому кругу специалистов
и привлек внимание к множеству ее возможных приложений. С тех пор цепи
Маркова стали стандартным элементом теории вероятностей и знакомым инструментом
во многих применениях.
Общая теория марковских процессов была создана в 30-40 гг. работами А.Н.
Колмогорова, В. Феллера, В. Деблина, П. Леви и др.
Важный вклад в теорию цепей Маркова сделал Деблин [5]. Имеется много книг,
посвященных изучению конечных цепей Маркова. Среди них особо следует отметить
книги Фреше, Романовского [4], Кемени и Снелла [7], Ларе [6], и Гардена.
Теории счетных цепей Маркова посвящена книга Чжуна.
В
настоящее время теория марковских процессов превратилась в большую и разветвленную
главу математической науки, которая получила огромное число различных применений
в физике, инженерном деле, геофизике, химии и ряде других областей знания.
В последнее время обнаружилась важная роль цепей Маркова в биологических
и социальных науках.
Литература, посвященная данной проблеме: