Марковские случайные процессы

При исследовании различных операций с точки зрения выбора оптимального решения часто возникают ситуации, когда обстановка приведения операции характеризуется случайными неконтролируемыми факторами. В этом случае операция развивается по схеме случайного процесса, протекание которого зависит от сопровождающих операцию случайных факторов. Количественно случайный процесс описывается случайной функцией времени t, которая может принимать различные значения с заданным распределением вероятностей. Т.о. для любого t=ti значение ξ= ξ(ti) является случайной величиной. Случайный процесс определяется совокупностью функций времени и законами, характеризующими свойства этой совокупности. Каждая из функций этой совокупности называется реализацией случайного процесса. Реализация обозначается ξ(q)(t), где q=1,2….. В зависимости от того, принадлежат ли возможные значения времени t и реализации ξ(t), дискретному множеству чисел или интервалу действительных чисел, различают четыре типа случайных процессов: 1. Случайный процесс общего типа:t и ξ(t) могут принимать любые значения. 2. Дискретный случайный процесс: t-непрерывно, а значения ξ(t) дискретны. 3. Случайная последовательность общего типа: t-дискретно, а ξ(t) принимает любые значения. 4. Дискретная случайная последовательность: t и ξ(t)дискретны. Для описания случайного процесса используют функции распределения: одномерная интегральная функция распределения вероятностей случайного процесса F1(x1, t1)=P(ξ(t1)<=x1)и плотность вероятности ∂F1(x1,t1)/ ∂x1=f(x1,t1). Функции F1(x1,t1) и f(x1,t1) являются простейшими характеристиками, т.к. описывают случайный процесс в фиксированные моменты времени. Для более полной характеристики случайного процесса необходимо знать связь между вероятными значениями случайной функции в произвольные моменты времени t1, t2, : tn. Определим n-мерную функцию распределения вероятностей случайного процесса Fn(x1,t1,…xn,tn)=P{ ξ(t1)≤x1, ξ (t2) ≤x2,… ξ(tn) ≤xn }Если Fn() имеет частные производные ∂nFLn(x1,t1,…xn,tn)/ ∂x1*xn=fn(x1,t1,…xn,tn) то эта производная называется n-мерной плотности вероятности случайного процесса. Имеет место очевидное равенство fn(x1,t1,…xn,tn)=fn-1(x1,t1…,xn-1, tn-1) f(xn, tn/x1,t1,…xn-1, tn-1) -условие плотности вероятности, которое зависит от значений случайного процесса в предшествующие моменты времени начиная с начального момента времени t1 и кончая моментом tn-1. Случайный процесс будет марковским, если выполняется условие f(xn, tn/x1,t1,…xn-1, tn-1)=f(xn,tn/x1,t1)В этом случае f(x1,t1,…xn,tn)= f(x1,t1)f(x2,t2|x1,t1)f(x2,t2|x2,t1)… Условная плотность вероятности f(xi,ti|xi-1, ti-1) называется плотностью вероятности перехода. Если плотность вероятности перехода зависит от разности ti-ti-1 и не зависит от конкретных значений ti, ti-1 f(xi, ti|xi-1, ti-1)=f(xi,t1-ti-1|xi-1) то такой процесс называется однородным. В исследовании операций большое значение имеют так называемые марковские случайные процессы с дискретными состояниями и непрерывным временем. В этом случае все его возможные состояния Q1,Q2,... можно перенумеровать. Переход из состояния в состояние происходит мгновенно, а моменты времени переходов являются случайными.

См.также[править | править код]

Материалы сообщества доступны в соответствии с условиями лицензии CC-BY-SA, если не указано иное.