A-posteriori-Wahrscheinlichkeit

Die A-posteriori-Wahrscheinlichkeit ist ein Begriff aus der bayesschen Statistik. Sie beschreibt den Wissensstand über einen unbekannten Umweltzustand <math>\theta</math> a posteriori, d. h. nach der Beobachtung einer Zufallsgröße <math>X</math>, die von <math>\theta</math> in statistischer Abhängigkeit steht.

Definition

Folgende Situation ist gegeben: <math>\theta</math> ist ein unbekannter Umweltzustand (z. B. ein Parameter einer Wahrscheinlichkeitsverteilung), der auf der Basis von Beobachtungen <math>x</math> einer Zufallsgröße <math>X</math> geschätzt werden soll.

Gegeben sei eine Verteilung für den Parameter <math>\theta</math> vor der Beobachtung der Stichprobe. Diese Verteilung wird auch A-priori-Verteilung genannt.

Weiterhin sei die Dichte (bzw. im diskreten Fall: die Wahrscheinlichkeitsfunktion) der bedingten Verteilung der Stichprobe unter der Bedingung <math>\theta=\theta_0</math> gegeben. Diese Dichte (bzw. Wahrscheinlichkeitsfunktion) wird im Folgenden mit <math>f(x|\theta_0)</math> bezeichnet.

Die A-posteriori-Verteilung ist die Verteilung des Populationsparameters <math>\theta</math> unter der Bedingung, dass für die Zufallsgröße <math>X</math> der Wert <math>x</math> beobachtet wurde. Die A-posteriori-Verteilung wird mit Hilfe des Satzes von Bayes aus der A-priori-Verteilung und der bedingten Verteilung der Stichprobe unter der Bedingung <math>\theta=\theta_0</math> berechnet.

A-posteriori-Verteilung

Für stetige A-priori-Verteilungen

Eine stetige A-priori-Verteilung liegt dann vor, wenn die A-priori-Verteilung auf der Menge der reellen Zahlen <math>\R</math> oder auf einem Intervall in <math>\R</math> definiert ist. Beispiele für stetige A-priori-Verteilungen sind:

die Normalverteilung (hier ist der Parameterraum <math>\Theta</math> die Menge der reellen Zahlen) oder
die Gleichverteilung auf dem Intervall <math>[0;1]</math> (hier ist der Parameterraum <math>\Theta</math> das Intervall <math>[0;1]</math>).

Im Folgenden steht <math>g(\theta)</math> für die auf dem Parameterraum <math>\Theta</math> definierte A-priori-Dichte von <math>\theta.</math>

In diesem Fall kann die A-posteriori-Dichte <math>h(\theta|x)</math> folgendermaßen berechnet werden:<ref name="rueger1"> Bernhard Rüger (1988), S. 152 ff.</ref>

<math>h(\theta_0\mid x) = \frac{f(x\mid \theta_0) \, g(\theta_0)}{\displaystyle\int_\Theta f(x \mid\theta') \, g(\theta') \, \mathrm d\theta'} \!</math>

Für diskrete A-priori-Verteilungen

Im folgenden Abschnitt steht <math>P(\theta=\theta_0)</math> für die diskrete A-priori-Wahrscheinlichkeit, dass der Parameter <math>\theta</math> den Wert <math>\theta_0</math> annimmt. Eine diskrete A-priori-Verteilung ist auf einer endlichen Menge oder auf einer Menge mit abzählbar unendlichem Träger definiert.

Die A-posteriori-Wahrscheinlichkeit wird im Folgenden mit <math>P(\theta=\theta_0|x)</math> bezeichnet und kann auf folgende Weise berechnet werden:<ref name="rueger1"/>

<math>P(\theta=\theta_0|x) = \frac{f(x|\theta_0) \, P(\theta=\theta_0)}{\displaystyle\sum_{\theta' \in \Theta} f(x|\theta') \, P(\theta=\theta')} \!</math>

Bedeutung in der bayesschen Statistik

In der bayesschen Statistik stellt die A-posteriori-Verteilung den neuen, durch Vorwissen und Beobachtung bestimmten Kenntnisstand über die Verteilung des Parameters <math>\theta</math> nach der Beobachtung der Stichprobe dar.

Damit ist die A-posteriori-Verteilung die Grundlage zur Berechnung aller Punktschätzer (siehe Bayes-Schätzer) und Glaubwürdigkeitsintervalle.<ref name="rueger1"/>

Beispiel

In einer Urne befinden sich rote und schwarze Kugeln. Es ist bekannt, dass der Anteil roter Kugeln entweder bei 40 % oder aber bei 60 % liegt. Um Genaueres herauszufinden, werden (mit Zurücklegen) 11 Kugeln aus der Urne gezogen. Es werden 4 rote und 7 schwarze Kugeln gezogen.

Die Zufallsgröße „Anzahl gezogener roter Kugeln“ wird im Folgenden mit <math>X</math> bezeichnet, der tatsächlich beobachtete Wert der Zufallsgröße mit <math>x</math>.

Die Zufallsgröße <math>X</math> ist binomialverteilt mit unbekanntem Parameter <math>\theta,</math> wobei <math>\theta</math> nur einen der Werte <math>0{,}4</math> oder <math>0{,}6</math> annehmen kann. Da kein weiteres Vorwissen bekannt ist, wird als A-priori-Verteilung für <math>\theta</math> eine diskrete Gleichverteilung angenommen, d. h.

<math>P(\theta=0{,}4)=P(\theta=0{,}6)=0{,}5.</math>

Die Wahrscheinlichkeitsfunktion für <math>X=x</math> ergibt sich aus der Binomialverteilung zu

<math>f(X=4\mid\theta=\theta_0)={11 \choose 4} \; {\theta_0}^4 \; (1-\theta_0)^7.</math>

Man erhält daher für <math>\theta_0=0{,}4</math>

<math>f(X=4\mid\theta=0{,}4)={11 \choose 4}\; 0{,}4^4 \;0{,}6^7=0{,}236.</math>

Für <math>\theta_0=0{,}6</math> erhält man

<math>f(X=4\mid\theta=0{,}6)={11 \choose 4} \; 0{,}6^4 \; 0{,}4^7=0{,}07.</math>

Die A-posteriori-Verteilung kann nun mit Hilfe des Satzes von Bayes berechnet werden. Für <math>\theta=0{,}4</math> erhält man als A-posteriori-Wahrscheinlichkeit

<math>P(\theta=0{,}4\mid x=4)=\frac{0{,}236 \cdot 0{,}5}{0{,}236 \cdot 0{,}5 + 0{,}07 \cdot 0{,}5 }=0{,}77.</math>

Für <math>\theta=0{,}6</math> ergibt sich die A-posteriori-Wahrscheinlichkeit

<math>P(\theta=0{,}6\mid x=4)=\frac{0{,}07 \cdot 0{,}5}{0{,}236 \cdot 0{,}5 + 0{,}07 \cdot 0{,}5 }=0{,}23.</math>

Somit ist nach Ziehung der Stichprobe die Wahrscheinlichkeit, dass der Anteil roter Kugeln in der Urne 40 % beträgt, gleich <math>0{,}77</math>.

Siehe auch

Bayesianische Erkenntnistheorie

Einzelnachweise

Literatur

Bernhard Rüger: Induktive Statistik. Einführung für Wirtschafts- und Sozialwissenschaftler. R. Oldenbourg Verlag, München Wien 1988. ISBN 3-486-20535-8
Hans-Otto Georgii: Stochastik – Einführung in die Wahrscheinlichkeitstheorie und Statistik. de Gruyter Verlag, Berlin New York 2007. ISBN 978-3-11-019349-7