imported>Sigma^2: /* Literatur */

2024-03-08T17:14:20Z

Literatur

Neue Seite

Der Begriff '''Mischverteilung''' oder '''zusammengesetzte Verteilung''' stammt aus der [[Stochastik|Wahrscheinlichkeitsrechnung]]. Es handelt sich dabei um eine [[Wahrscheinlichkeitsverteilung]], die ein gewichtetes Mittel von mehreren Wahrscheinlichkeitsverteilungen ist. Das heißt zum Beispiel seien <math>f_{X_1},\dots,f_{X_n}</math> die Wahrscheinlichkeitsdichten von <math>n</math> verschiedenen Verteilungen, dann ist die Dichte der Mischverteilung von der Form
:<math>f_X=a_1f_{X_1} + \cdots + a_nf_{X_n}</math>
wobei <math>a_1,\cdots,a_n</math> normalisierte Gewichte sind. Dadurch entsteht eine Mischung <math>X</math> von [[Zufallsgröße]]n <math>X_1,\dots,X_n</math> aus mehreren verschiedenen [[Grundgesamtheit]]en.

== Einführendes Beispiel ==
Betrachtet man beispielsweise das [[Merkmal]] Körpergröße bei Kleinkindern (erste Grundgesamtheit) und Erwachsenen (zweite Grundgesamtheit), ist dieses Merkmal innerhalb jeder einzelnen Grundgesamtheit meist annähernd [[Normalverteilung|normalverteilt]], wobei der [[Mittelwert]] für die Kleinkinder deutlich niedriger liegen dürfte als für die Erwachsenen. Die Mischverteilung ist nun die Verteilung der Körpergröße, wenn man die beiden Grundgesamtheiten Kleinkinder und Erwachsene nicht einzeln, sondern gemeinsam betrachtet, also die Verteilung der Körpergröße einer Person, von der man ''nicht'' weiß, ob sie Kleinkind oder Erwachsener ist.

Mathematisch handelt es sich in diesem Beispiel bei der Körpergröße der Kleinkinder um eine Zufallsgröße <math>X_1</math> aus der einen Grundgesamtheit <math>G_1</math> und bei der Körpergröße der Erwachsenen um eine andere Zufallsgröße <math>X_2</math> aus der anderen Grundgesamtheit <math>G_2</math>. Die Mischung dieser beiden Zufallsgrößen ist eine weitere Zufallsgröße <math>X</math>, die mit einer gewissen Wahrscheinlichkeit <math>a_1</math> als <math>X_1</math> der ersten [[Grundgesamtheit]] <math>G_1</math> bzw. mit Wahrscheinlichkeit <math>a_2</math> als <math>X_2</math> der anderen Grundgesamtheit <math>G_2</math> entstammt. Da nur diese beiden Grundgesamtheiten zur Auswahl stehen, muss <math>a_1 + a_2 = 1</math> gelten. Die Wahrscheinlichkeiten <math>a_1</math> und <math>a_2</math> lassen sich auch als relative ''Anteile'' der Grundgesamtheiten <math>G_1</math> und <math>G_2</math> an der gemeinsamen Grundgesamtheit interpretieren, bezogen auf das Beispiel also als Anteil der Kleinkinder beziehungsweise der Erwachsenen an der Gesamtstichprobe. Die Verteilung von <math>X</math> bestimmt sich über das [[Totale Wahrscheinlichkeit|Gesetz der totalen Wahrscheinlichkeit]] zu

:<math>
\begin{alignedat}{2}
& P(X \le x) & {}={} & P(X \le x|X \text{ aus } G_1) \cdot a_1 + P(X \le x|X \text{ aus } G_2) \cdot a_2 \\
&& {}={} & P(X \le x|X = X_1) \cdot a_1 + P(X \le x|X = X_2) \cdot a_2 \\
&& {}={} & P(X_1 \le x) \cdot a_1 + P(X_2 \le x) \cdot a_2 \text{;}
\end{alignedat}
</math>

Wenn <math>X_1</math> und <math>X_2</math> [[Verteilungsfunktion]]en <math>F_1</math> und <math>F_2</math> haben, lautet die Verteilungsfunktion <math>F</math> von <math>X</math> also

:<math>F(x) = F_1(x) \cdot a_1 + F_2(x) \cdot a_2</math>.

== Definition ==

=== Stetiger Fall ===
Lässt sich die [[Dichtefunktion]] einer [[stetig]]en Zufallsvariablen <math>X</math> als

:<math>
f(x) = \sum_{k=1}^K a_k f_k(x)
</math>

schreiben, so sagt man, dass <math>X</math> einer Mischverteilung folgt. Dabei sind die <math>f_k(x)</math> Dichtefunktionen von stetigen Zufallsvariablen <math>X_k</math> und die <math>a_k</math> Wahrscheinlichkeiten mit
:<math>
\sum_{k=1}^{K} a_k = 1
</math>.
<math>f</math> ist also eine [[Konvexkombination]] der Dichten <math>f_1, \ldots, f_K</math>.

Man kann leicht zeigen, dass unter diesen Bedingungen <math>f</math> nichtnegativ ist und die Normierungseigenschaft
:<math>
\int_{-\infty}^{\infty} f(x) \,\mathrm{d}x = 1
</math>
erfüllt ist.

Entsprechend ergibt sich die [[Wahrscheinlichkeitsfunktion]] einer [[diskret]]en Mischverteilung als

:<math>
\rho(x_i) = \sum_{k=1}^K a_k \rho_k (x_i)
</math>

aus den Wahrscheinlichkeitsfunktionen <math>\rho_k</math> von diskreten Zufallsvariablen <math>X_k</math>.

== Eigenschaften ==
Für die [[Moment (Stochastik)|Momente]] von <math>X</math> gilt:
:<math>
\operatorname{E}(X^p) = \sum_{k=1}^K a_k \, \operatorname{E}(X_k^p),~p \in \{1,2,3,\dotsc\}.
</math>

Dies folgt (im stetigen Fall) aus
:<math>
\operatorname{E}(X^p) = \int_{-\infty}^{\infty} x^p f(x) \,\mathrm{d}x = \int_{-\infty}^{\infty} x^p \left( \sum_{k=1}^K a_k f_k

(x) \right) \,\mathrm{d}x = \sum_{k=1}^K a_k \left( \int_{-\infty}^{\infty} x^p f_k(x) \,\mathrm{d}x \right).
</math>
Eine analoge Rechnung ergibt die Formel für den diskreten Fall.

== Häufiger Spezialfall: Gaußsche Mischmodelle ==
[[Datei:Multigauss.gif|mini|Beispiel einer Mischverteilung, berechnet aus einem Modell mit den Parametern von drei einzelnen gewichteten Gaußverteilungen mit dem EM-Algorithmus (berechnet mit dem [[R (Programmiersprache)|R]]-Paket ''mclust''<ref>{{Webarchiv |url=http://www.stat.washington.edu/research/reports/2006/tr504.pdf |text=Fraley,Ch., Raftery, A.: 'MCLUST; Version 3 for R: Normal Mixture Modeling and Model-Based Clustering' |wayback=20150924105823 }}</ref>).]]
Ein häufiger Spezialfall von Mischverteilungen sind sogenannte Gaußsche Mischmodelle (''{{lang|en|gaussian mixture models}}'', kurz: ''GMMs''). Dabei sind die Dichtefunktionen <math>f_1, \ldots, f_K</math> die der [[Normalverteilung]] mit potenziell verschiedenen Mittelwerten <math>\mu_1, \ldots, \mu_K</math> und Standardabweichungen <math>\sigma_1, \ldots, \sigma_K</math> (beziehungsweise Mittelwertvektoren und [[Kovarianzmatrix|Kovarianzmatrizen]] im <math>d</math>-dimensionalen Fall). Es gilt also
:<math>f_k(x) = \mathcal{N}\left(\mu_{k},\Sigma_{k}\right)(x) = \frac{1}{\left(2\pi\right)^{\frac{d}{2}}|\Sigma_{k}|^{\frac{1}{2}}}\exp\left(-\frac{1}{2}(x-\mu_{k})\Sigma_{k}^{-1}(x-\mu_{k})\right)</math>
und die Dichte <math>f</math> der Mischverteilung hat die Form
:<math>f(x) = \sum_{k=1}^{K} a_kf_k(x) = \sum_{k=1}^{K} \frac{a_k}{\left(2\pi\right)^{\frac{d}{2}}|\Sigma_{k}|^{\frac{1}{2}}}\exp\left(-\frac{1}{2}(x-\mu_{k})\Sigma_{k}^{-1}(x-\mu_{k})\right)</math>.

== Parameterschätzung ==
Schätzer für die Parameter von Wahrscheinlichkeitsverteilungen werden häufig mit dem [[Maximum-Likelihood-Schätzung|Maximum-Likelihood-Verfahren]] hergeleitet. Im Falle von Mischverteilungen ergeben sich dabei allerdings meist Gleichungen, deren Lösungen sich nicht algebraisch angeben lassen und daher numerisch bestimmt werden müssen<ref>{{Literatur |Autor=Ghojogh, Benyamin Ghojogh, Aydin Crowley, Mark Karray, Fakhri |Titel=Fitting A Mixture Distribution to Data: Tutorial |Datum=2019-01-20 |Sprache=en |arXiv=1901.06708}}</ref>. Ein typisches Verfahren dazu ist der Expectation-Maximization-Algorithmus ([[EM-Algorithmus]]), der beginnend bei initialen Werten für die Parameter eine [[Folge (Mathematik)|Folge]] von immer besseren Schätzwerten erzeugt, die sich in vielen Fällen den realen Parametern [[Grenzwert (Folge)|annähern]].

== Beispiel ==
[[Datei:Mischv.png|300px|mini|Verteilung des Gewichts der Forellen (g)]]
Ein Forellenzüchter verkauft Forellen in großen Mengen. Es wird im Herbst beim Leeren der Teiche eine Bestandsaufnahme gemacht. Dabei werden die herausgefischten Forellen gewogen. Es ergibt sich die Verteilung des Gewichts, wie in der Grafik zu ersehen ist. Die Zweigipfligkeit der Verteilung deutet auf eine Mischverteilung hin. Es stellt sich heraus, dass die Forellen aus zwei verschiedenen Teichen stammen. Die Forellengewichte aus dem ersten Teich sind [[Normalverteilung|normalverteilt]] mit dem [[Erwartungswert]] 400 g und der [[Varianz (Stochastik)|Varianz]] 4900 g<sup>2</sup> und die aus dem zweiten Teich mit dem Erwartungswert 600 g und der Varianz 8100 g<sup>2</sup>. Aus dem ersten Teich stammen 40 % der Forellen, aus dem zweiten 60 %.
Es ergibt sich die Dichtefunktion <math>f(x) = 0{,}4 \cdot \frac {1}{70 \cdot \sqrt{2\pi}} e^{-\frac {1}{2} \left(\frac{x-400}{70}\right)^2} + 0{,}6 \cdot \frac {1}{90 \cdot \sqrt{2\pi}} e^{-\frac {1}{2} \left(\frac{x-600}{90}\right)^2}</math> (siehe Abbildung).

== Literatur ==
* {{Literatur |Titel=Mischverteilung (zusammengesetzte Verteilung) |Herausgeber=[[P. Heinz Müller|P. H. Müller]] |Sammelwerk=Lexikon der Stochastik – Wahrscheinlichkeitsrechnung und mathematische Statistik |Verlag=Akademie-Verlag |Ort=Berlin |Datum=1991 |Auflage=5 |ISBN=978-3-05-500608-1 |Seiten=263–265}}

== Siehe auch ==
* [[Satz von Bayes]]
* [[Diskriminanzanalyse]]
* [[Kontaminierte Normalverteilung]]

== Einzelnachweise ==
<references />

[[Kategorie:Wahrscheinlichkeitsverteilung]]

Mischverteilung - Versionsgeschichte

imported>Sigma^2: /* Literatur */