Reversible Markow-Kette

Die Reversibilität<ref name=":0">{{#invoke:Vorlage:Literatur|f}}</ref> ist eine Eigenschaft homogener Markow-Ketten, einem speziellen stochastischen Prozess. Anschaulich ist eine reversible Markow-Kette ein stochastischer Prozess, wofür nicht erkennbar ist, ob er sich zeitlich vorwärts oder rückwärts bewegt.

Definition

Eine Markow-Kette mit möglichen Zuständen <math>(X_z)_{z \in \mathbb Z}</math> und einer Übergangsmatrix <math>(w_{ij})</math>, wobei <math>w_{ij}</math> die Wahrscheinlichkeit für einen Übergang von Zustand <math>X_i</math> zum Zustand <math>X_j</math> bezeichnet (also die Übergangswahrscheinlichkeit), heißt reversibel bezüglich der Verteilung <math> P </math>, wenn

für alle <math>i,j</math> gilt. Eine Markow-Kette heißt reversibel, wenn sie eine Verteilung besitzt, bezüglich derer sie reversibel ist.

Die obige Gleichung ist die Bedingung der detaillierten Balance. Ist sie erfüllt, so ist das System, das durch den Markow-Prozess beschrieben wird, in der detaillierten Balance.

Anmerkungen

Die Bedingung der detaillierten Balance wird gelegentlich auch (stationsspezifische) detaillierte Balancegleichung<ref name=":0" /> genannt. Anstatt des Begriffs der detaillierten Balance werden auch die Begriffe detaillierte Bilanz<ref>{{#invoke:Vorlage:Literatur|f}}</ref><ref>{{#invoke:Vorlage:Literatur|f}}</ref> oder detailliertes Gleichgewicht<ref>{{#invoke:Vorlage:Literatur|f}}</ref> gebraucht.

Eigenschaften

Für stationäre Markow-Ketten <math>(X_z)_{z \in \mathbb Z}</math> mit Übergangsmatrix <math>(w_{ij})</math> (also insbesondere für diejenigen Ketten, die in einer stationären Verteilung starten) ist diese Eigenschaft äquivalent zur zeitlichen Reversibilität, das heißt, für den zeitumgekehrten Prozess <math>\tilde X_z := X_{-z} </math> gilt für alle <math>t_1, \dots, t_n \in \mathbb Z</math>, dass <math> (X_{t_1}, \dots, X_{t_n}) \sim (X_{-t_1}, \dots, X_{-t_n})</math>.<ref>Das heißt, <math>X_{t_1},\ldots</math> sind verteilt wie <math>X_{-t_1},\ldots</math></ref> Für jede Realisierung ist also gleichgültig, in welcher Richtung sie durchlaufen wird.
Jede Verteilung, welche die Bedingung der detaillierten Balance erfüllt, ist eine stationäre Verteilung. Das folgt direkt aus der Mastergleichung <math display="inline"> \frac{\mathrm{d}P_k}{\mathrm{d}t}=\sum_{\ell \ne k}(w_{k\ell}P_\ell - w_{\ell k}P_k)=0 </math>. Die Konvergenz einer beliebigen Verteilung gegen die stationäre Verteilung ist daraus aber nicht gegeben. Ein hinreichendes Kriterium dafür liefert zum Beispiel der Ergodensatz.

Beispiele

Der Metropolisalgorithmus ist ein Beispiel für einen stochastischen Prozess, der die Bedingung der detaillierten Balance erfüllt. Er wird in Monte-Carlo-Simulationen dazu genutzt, Zustände eines Systems aus vorhergehenden Zuständen gemäß einer Übergangswahrscheinlichkeit zu erzeugen.<ref>{{#invoke:Vorlage:Literatur|f}}</ref>

Siehe auch

Gibbs-Sampling

Literatur

G. Bhanot, The Metropolis algorithm, Rep. Prog. Phys. 51 (1988) 429
Achim Klenke: Wahrscheinlichkeitstheorie. 2. Auflage. Springer-Verlag, Berlin Heidelberg 2008, ISBN 978-3-540-76317-8, 19.2 Reversible Markovketten
Hans-Otto Georgii: Stochastik: Einführung in die Wahrscheinlichkeitstheorie und Statistik, 5. Auflage, de Gruyter 2015

Einzelnachweise