Własność Markowa

Własność Markowa – własność procesów stochastycznych polegająca na tym, że warunkowe rozkłady prawdopodobieństwa przyszłych stanów procesu są zdeterminowane wyłącznie przez jego bieżący stan, bez względu na przeszłość. Ściślej: przyszłe stany procesu są warunkowo niezależne od stanów przeszłych.

Procesy stochastyczne, które posiadają własność Markowa, nazywamy procesami Markowa. Typowym przykładem w fizyce jest proces opisujący ruchy Browna.

W procesach z czasem ciągłym

Dla procesów z czasem ciągłym, jeżeli X ( t ) ,   t > 0 {\displaystyle X(t),\ t>0} jest procesem stochastycznym, własność Markowa oznacza, że

∀ h > 0 P r [ X ( t + h ) ⩽ y | ∀ s ⩽ t   X ( s ) = x ( s ) ] = P r [ X ( t + h ) ⩽ y | X ( t ) = x ( t ) ] . {\displaystyle \forall h>0\quad \mathrm {Pr} {\big [}X(t+h)\leqslant y\,|\forall s\leqslant t\,\ X(s)=x(s){\big ]}=\mathrm {Pr} {\big [}X(t+h)\leqslant y\,|\,X(t)=x(t){\big ]}.}

Procesy Markowa są nazywane jednorodnymi, jeśli prawdopodobieństwa nie zależą od t {\displaystyle t} (więc dla każdego t {\displaystyle t} pozostają te same):

∀ t , h > 0 P r [ X ( t + h ) ⩽ y | X ( t ) = x ] = P r [ X ( h ) ⩽ y | X ( 0 ) = x ] , {\displaystyle \forall t,h>0\quad \mathrm {Pr} {\big [}X(t+h)\leqslant y\,|\,X(t)=x{\big ]}=\mathrm {Pr} {\big [}X(h)\leqslant y\,|\,X(0)=x{\big ]},}

a w przeciwnym wypadku niejednorodnymi.

Jednorodne procesy Markowa, zwykle prostsze niż niejednorodne, są najważniejszą klasą procesów Markowa.

W procesach z czasem dyskretnym

Dla dyskretnych procesów Markowa (tzw. łańcuchów Markowa):

P ( X n + 1 ⩽ y | X 0 , X 1 , X 2 , … , X n ) = P ( X n + 1 ⩽ y | X n ) . {\displaystyle P(X_{n+1}\leqslant y|X_{0},X_{1},X_{2},\dots ,X_{n})=P(X_{n+1}\leqslant y|X_{n}).}

Analogicznie do procesów z czasem ciągłym, łańcuchy Markowa są nazywane jednorodnymi, jeśli prawdopodobieństwa nie zależą od indeksu stanu n : {\displaystyle n{:}}

P ( X n + 1 ⩽ y | X n ) = P ( X 1 ⩽ y | X 0 ) . {\displaystyle P(X_{n+1}\leqslant y|X_{n})=P(X_{1}\leqslant y|X_{0}).}

Mocna własność Markowa

Mocna własność Markowa oznacza, że powyższe równania są spełnione nie tylko dla dowolnego ustalonego czasu t {\displaystyle t} (albo w przypadku dyskretnym dla ustalonego n {\displaystyle n} ), lecz dla czasu będącego zmienną losową zależną od przeszłości procesu. Mocna własność Markowa implikuje własność Markowa, odwrotna implikacja jednak nie zachodzi.

Zobacz też