Общие сведения о цепях Маркова

1.4.1 Основные понятия марковских процессов

Марковские случайные процессы названы по имени выдающегося русского математика А.А. Маркова (1856-1922), впервые начавшего изучение вероятностной связи случайных величин и создавшего теорию, которую можно назвать “динамикой вероятностей”. В дальнейшем основы этой теории явились исходной базой общей теории случайных процессов, а также таких важных прикладных наук, как теория диффузионных процессов, теория надежности, теория массового обслуживания и т.д. В настоящее время теория марковских процессов и ее приложения широко применяются в самых различных областях таких наук, как механика, физика, химия и другие.

Благодаря сравнительной простоте и наглядности математического аппарата, высокой достоверности и точности получаемых решений особое внимание марковские процессы приобрели у специалистов, занимающихся исследованием операций и теорией принятия оптимальных решений.

Несмотря на указанную выше простоту и наглядность, практическое применение теории марковских цепей требует знания некоторых терминов и основных положений, на которых следует остановиться.

Марковские случайные процессы относятся к частным случаям случайных процессов (СП). В свою очередь, случайные процессы основаны на понятии случайной функции (СФ).

Случайной функцией называется функция, значение которой при любом значении аргумента является случайной величиной (СВ). По-иному, СФ можно назвать функцию, которая при каждом испытании принимает какой-либо заранее неизвестный вид.

Такими примерами СФ являются: колебания напряжения в электрической цепи, скорость движения автомобиля на участке дороги с ограничением скорости, шероховатость поверхности детали на определенном участке и так далее.

Как правило, считают, что если аргументом СФ является время, то процесс, основанный на такой функции, называют случайным. Существует и другое, более близкое к теории принятия решений, определение СП. При этом под случайным процессом понимают процесс случайного изменения состояний какой-либо физической или технической системы по времени или какому-либо другому аргументу.

Нетрудно заметить, что если обозначить состояние и изобразить зависимость , то такая зависимость и будет случайной функцией.

СП классифицируются по видам состояний и аргументу t. При этом СП могут быть с дискретными или непрерывными состояниями или временем. Например, любой выборочный контроль продукции будет относиться к СП с дискретными состояниями ( - годная, - негодная продукция) и дискретным временем (, - времена проверки). С другой стороны, случай отказа любой машины можно отнести к СП с дискретными состояниями, но непрерывным временем. Проверки термометра через определенное время будут относиться к СП с непрерывным состоянием и дискретным временем. В свою очередь, например любая осциллограмма, будет записью СП с непрерывными состояниями и временем.

Кроме указанных выше примеров классификации СП существует еще одно важное свойство. Это свойство описывает вероятностную связь между состояниями СП. Так, например, если в СП вероятность перехода системы в каждое последующее состояние зависит только от предыдущего состояния, то такой процесс называется процессом без последействия (рисунок 1.7).

Зависимость называют переходной вероятностью, часто говорят, что именно процесс без последействия обладает марковским свойством, однако, строго говоря, здесь есть одна неточность. Дело в том, что можно представить себе СП, в котором вероятностная связь существует не только с предшествующими, но и более ранними () состояниями, то есть

(1.25)

Рисунок 1.7 – Схема процесса без последействия

Такие процессы также рассматривались А.А. Марковым, который предложил называть их в отличие от первого случая (простой цепи) - сложной цепью. В настоящее время теория таких цепей разработана слабо и обычно применяют так называемый процесс укрупнения состояний, путем математических преобразований, объединяя предшествующие состояния в одно.

Это обстоятельство должно обязательно учитываться при составлении математических моделей принятия решений.

Остановимся подробнее на понятии “марковской цепи”. Отметим, во-первых, что случайный процесс с дискретными состояниями и временем называется случайной последовательностью.

Если случайная последовательность обладает марковским свойством, то она называется цепью Маркова.

С другой стороны, если в случайном процессе состояния дискретны, время непрерывно и свойство последействия сохраняется, то такой случайный процесс называется марковским процессом с непрерывным временем.

Еще одним условием описания модели является требование, чтобы вероятности переходов из состояния в состояние подчинялись экспоненциальному закону, то есть переход из состояния в состояние представляет собой пуассоновский поток.

Различают марковские системы по количеству состояний, в которых находится система: системы с конечным состоянием и системы с бесконечным состоянием.

Марковский СП называется однородным, если переходные вероятности остаются постоянными в ходе процесса и не зависит от номера испытания.

Модель марковской цепи может быть представлена в виде ориентированного взвешенного графа (рисунок 1.8).

Рисунок 1.8 – Ориентированный взвешенный граф

Вершины графа обозначают состояние , а дуги – переходные вероятности.

Множество состояний системы марковской цепи, определенным образом классифицируется с учетом дальнейшего поведения системы.

1 Невозвратное множество (рисунок 1.9).

Рисунок 1.9 – Невозвратное множество

В случае невозвратного множества возможны любые переходы внутри этого множества. Система может покинуть это множество, но не может вернуться в него.

2 Возвратное множество (рисунок 1.10).

Рисунок 1.10 – Возвратное множество

В этом случае также возможны любые переходы внутри множества. Система может войти в это множество, но не может покинуть его.

3 Эргодическое множество (рисунок 1.11).

Рисунок 1.11 – Эргодическое множество

В случае эргодического множества возможны любые переходы внутри множества, но исключены переходы из множества и в него.

4 Поглощающее множество (рисунок 1.12)

Рисунок 1.12 – Поглощающее множество

При попадании системы в это множество процесс заканчивается.

Кроме описанной выше классификации множеств различают состояния системы:

а) существенное состояние (рисунок 1.13): возможны переходы из в и обратно;

;

Рисунок 1.13 – Существенное состояние

б) несущественное состояние (рисунок 1.14): возможен переход из в , но невозможен обратный.

Рисунок 1.14 – Несущественное состояние

В некоторых случаях, несмотря на случайность процесса, имеется возможность до определенной степени управлять законами распределения или параметрами переходных вероятностей. Такие марковские цепи называются управляемыми. Очевидно, что с помощью управляемых цепей Маркова (УЦМ) особенно эффективным становится процесс принятия решений, о чем будет сказано впоследствии.

Основным признаком дискретной марковской цепи (ДМЦ) является детерминированность временных интервалов между отдельными шагами (этапами) процесса. Однако часто в реальных процессах это свойство не соблюдается и интервалы оказываются случайными с каким-либо законом распределения, хотя марковость процесса сохраняется. Такие случайные последовательности называются полумарковскими.

Кроме того, с учетом наличия и отсутствия тех или иных, упомянутых выше, множеств состояний марковские цепи могут быть поглощающими, если имеется хотя бы одно поглощающее состояние, или эргодическими, если переходные вероятности образуют эргодическое множество.

В свою очередь, эргодические цепи могут быть регулярными или циклическими. Циклические цепи отличаются от регулярных тем, что в процессе переходов через определенное количество шагов (циклов) происходит возврат в какое-либо состояние. Регулярные цепи этим свойством не обладают. Если просуммировать все вышесказанные определения, то можно дать следующую классификацию марковских процессов (рисунок 1.15):

Рисунок 1.15 – Классификация марковских процессов

1.4.2 Переходные вероятности. Матрица перехода

Переход системы из состояния в состояние будем рассматривать в дискретные моменты времени.

Система считается заданной, если заданы два условия.

1 Заданы вероятности возможных состояний системы . Вероятности нахождения в этих состояниях – это доли времени нахождения в каждом состоянии. Имеется вектор начальных вероятностей начального состояния системы

,

описывающий начальное состояние системы.

2 Заданы условные вероятности переходов из состояния в состояние за время . Это вероятность перехода из i -го в k -ое состояние за время (причем, чем больше , тем больше вероятность). Данные вероятности переходов задаются с помощью матрицы, которая имеет следующий вид:

Заметим, что в обозначении первый индекс указывает номер предшествующего, а второй – номер последующего состояния. Например, P₁₂ - вероятность «перехода» из первого состояния во второе.

Иногда вместо вероятности для описания марковской модели, пользуются интенсивностью переходов из состояния в состояние:

.

Пусть система S имеет n состояний S_i. Известны вероятности пребывания системы в этих состояниях в момент времени t: и заданы условные вероятности перехода из i -го в j -ое состояние с помощью матрицы перехода:

Рисунок 1.16 – Граф состояния системы

Тогда вероятность нахождения системы в k -ом состоянии, в момент времени будет определяться по формуле полной вероятности

(1.26)

или в матричном виде данное выражение можно записать в следующем виде:

,

где ;

– матрица вероятности переходов (1.26) – уравнение Маркова.

Для однородной цепи Маркова вероятности переходов из i -го в j -ое состояние в прогнозе, в перспективе, во времени можно записать

,

то есть матрицу переходов необходимо умножить на саму себя m раз, поэтому для однородности цепи Маркова существует эргодическое свойство, суть которого состоит в том, что система в пределе переходит к установившемуся состоянию

,

где – это предельные или финальные вероятности.

В этом случае к моменту времени вероятности двух соседних шагов m – 1, m равны между собой.

Тогда из уравнения Маркова получим вероятность k -го события

.

При этом добавляется требование, что сумма всех вероятностей

.

Дата добавления: 2014-11-29