Momenterzeugende Funktion

Die momenterzeugende Funktion ist eine Funktion, die in der Wahrscheinlichkeitstheorie einer Zufallsvariablen zugeordnet wird. In vielen Fällen ist diese Funktion in einer Umgebung des Nullpunktes in den reellen bzw. komplexen Zahlen definiert und kann dann mittels Ableitung zur Berechnung der Momente der Zufallsvariablen verwendet werden, woraus sich ihr Name erklärt.

Definition

Die momenterzeugende Funktion einer Zufallsvariablen <math>X</math> ist definiert durch<ref>Robert G. Gallager: Stochastic Processes. Cambridge University Press, 2013, ISBN 978-1-107-03975-9, Kapitel 1.5.5: Moment generating functions and other transforms</ref>

<math>M_X(t):=E\left(e^{tX}\right)</math>,

wobei für <math>t</math> reelle Zahlen eingesetzt werden können, sofern der Erwartungswert auf der rechten Seite existiert. Dieser Ausdruck ist mindestens für <math>t=0</math> definiert. In vielen Fällen, siehe unten, ist diese Funktion in einer Umgebung von 0 definiert, und kann dann wie folgt in eine Potenzreihe entwickelt werden:

<math>M_X(t)=E\left(\sum_{n=0}^{\infty}\frac{(tX)^n}{n!}\right)=\sum_{n=0}^{\infty}\frac{t^n}{n!}E(X^n)=\sum_{n=0}^{\infty}\frac{t^n}{n!}m_X^n</math>.

Dabei gilt <math>0^0 := 1 </math> und die <math>m_X^n=E(X^n)</math> sind die Momente von <math>X</math>.

Die momenterzeugende Funktion hängt nur von der Verteilung von <math>X</math> ab. Wenn die momenterzeugende Funktion einer Verteilung in einer Umgebung von 0 existiert, so sagt man, etwas unpräzise aber allgemein gebräuchlich, die Verteilung habe eine momenterzeugende Funktion. Existiert <math>M_X(t)</math> nur für <math>t=0</math>, so sagt man entsprechend, dass die Verteilung keine momenterzeugende Funktion habe.

Stetige Wahrscheinlichkeitsverteilungen

Falls <math>X</math> eine stetige Wahrscheinlichkeitsdichte <math>f</math> hat, kann man obigen Erwartungswert mittels dieser Dichte schreiben und erhält für die momenterzeugende Funktion

<math>M_X(t) = \int_{-\infty}^\infty e^{tx} f(x)\,\mathrm{d}x</math>

<math> = \int_{-\infty}^\infty \left( 1+ tx + \frac{t^2}{2!}x^2 + \dotsb\right) f(x)\,\mathrm{d}x</math>

<math> = 1 + t m_X^1 + \frac{t^2}{2!}m_X^2 +\dotsb</math>

Dabei ist <math>m_X^k</math> das <math>k</math>-te Moment von <math>X</math>. Der Ausdruck <math>M_X\left(-t\right)</math> ist also gerade die zweiseitige Laplacetransformation des durch <math>X</math> festgelegten Wahrscheinlichkeitsmaßes.

Bemerkungen

Ursprung des Begriffs der momenterzeugenden Funktion

Die Bezeichnung momenterzeugend bezieht sich darauf, dass die <math>k</math>-te Ableitung von <math>M_X</math> im Punkt 0 (Null) gleich dem <math>k</math>-ten Moment der Zufallsvariablen <math>X</math> ist:

<math>\frac{\mathrm{d}^k}{\mathrm{d} t^k} M_X(t)\biggr\vert_{t=0} = E(X^k) = m_X^k</math>.

Das liest man direkt an der oben angegebenen Potenzreihe ab. Durch die Angabe aller nicht verschwindenden Momente ist jede Wahrscheinlichkeitsverteilung vollständig festgelegt, falls die momenterzeugende Funktion auf einem offenen Intervall <math>(-\varepsilon,\varepsilon)</math> existiert <math>(\varepsilon > 0)</math>.

Die erste Erwähnung des Begriffs momenterzeugende Funktion scheint französischsprachig (la fonction génératrice des moments) im Jahr 1925 durch V. Romanovsky erfolgt zu sein.<ref>V. Romanovsky: Sur Certaines éspérances Mathématiques es sur l'Erreur Moyenne du Coefficient de Corrélation. In: Comptes Rendus. Band 180, 1295, S. 1897–1899, S. 1898. </ref><ref name="MacTutor">Earliest Known Uses of Some of the Words of Mathematics (M). Abgerufen am 7. November 2023. </ref> Im englischen Sprachraum wird die erste Verwendung des Begriffs moment generating function Ronald A. Fisher im Jahr 1929 zugeschrieben.<ref>Ronald A. Fisher: Moments and Product Moments of Sampling Distributions. In: Proceedings of the London Mathematical Society, Series 2. Band 30, 1929, S. 238. </ref><ref name="MacTutor"/>

Zusammenhang mit der charakteristischen Funktion

Die momenterzeugende Funktion steht in engem Zusammenhang mit der charakteristischen Funktion <math>\varphi_X(t) = E\left(e^{\mathrm{i}t X}\right)</math>. Es gilt <math>\varphi_X(t) = M_{iX}(t)=M_X(\mathrm{i}t)</math>, falls die momenterzeugende Funktion existiert. Im Gegensatz zur momenterzeugenden Funktion existiert die charakteristische Funktion für beliebige Zufallsvariablen.

Zusammenhang mit der wahrscheinlichkeitserzeugenden Funktion

Des Weiteren besteht noch ein Zusammenhang zur wahrscheinlichkeitserzeugenden Funktion. Diese ist jedoch nur für <math> \mathbb{N}_0 </math>-wertige Zufallsvariablen definiert und zwar als <math> m_X(t)=\operatorname{E}(t^X) </math>. Damit gilt <math> m_X(e^t)=M_X(t)</math> für diskrete Zufallsvariablen.

Zusammenhang mit der kumulantenerzeugenden Funktion

Die kumulantenerzeugende Funktion wird als natürlicher Logarithmus der momenterzeugenden Funktion definiert. Aus ihr wird der Begriff der Kumulante abgeleitet.

Summen unabhängiger Zufallsvariablen

Die momenterzeugende Funktion einer Summe unabhängiger Zufallsvariablen ist das Produkt ihrer momenterzeugenden Funktionen: Sind <math>X_1, \dotsc, X_n</math> unabhängig, dann gilt für <math>Y = X_1 + \dotsb + X_n</math>

<math>M_Y(t) = E(e^{tY}) = E(e^{tX_1+ \ldots + tX_n}) = E(e^{tX_1}\cdots e^{tX_n}) = E(e^{tX_1})\cdots E(e^{tX_n}) = M_{X_1}(t) \cdots M_{X_n}(t)</math>,

wobei beim vorletzten Gleichheitszeichen verwendet wurde, dass der Erwartungswert eines Produktes unabhängiger Zufallsvariablen gleich dem Produkt ihrer Erwartungswerte ist.

Linear-affine Transformationen

Ist <math>X</math> eine Zufallsvariable mit momenterzeugender Funktion <math>M_X</math>, so hat die transformierte Zufallsvariable <math>a+b X</math> mit <math>a,b \in \mathbb{R}</math> die momenterzeugende Funktion <math>M_{a+bX}</math> mit

Eindeutigkeitseigenschaft

Ist die momenterzeugende Funktion einer Zufallsvariablen <math>X</math> in einer Umgebung von <math>0</math> endlich, so bestimmt sie die Verteilung von <math>X</math> eindeutig.<ref>J. H. Curtiss: A Note on the Theory of Moment Generating Functions. In: The Annals of Mathematical Statistics. Band 13, Nr. 4, 1942, S. 430–155 (projecteuclid.org [abgerufen am 7. November 2023]). </ref>

Seien <math>X</math> und <math>Y</math> zwei Zufallsvariablen mit momenterzeugenden Funktionen <math>M_X</math> und <math>M_Y</math> derart, dass es ein <math>\varepsilon > 0</math> gibt mit <math>M_X (s), M_Y (s) < \infty</math> für alle <math>s \in (-\varepsilon,\varepsilon)</math>. Dann gilt <math>P_X = P_Y</math> genau dann, wenn <math>M_X(s) = M_Y(s)</math> für alle <math>s \in (-\varepsilon,\varepsilon)</math> gilt.

Konvexität

Jede momenterzeugende Funktion ist konvex. Sie ist sogar strikt konvex, wenn <math>X\neq 0</math>.<ref>Klaus D. Schmidt: Maß und Wahrscheinlichkeit. Springer, Berlin / Heidelberg 2009, ISBN 978-3-540-89730-9, S. 380. </ref>

Beispiele

Für viele Verteilungen kann man die momenterzeugende Funktion direkt angeben:

Verteilung	Momenterzeugende Funktion M_X(t)
Bernoulli-Verteilung <math>\mathrm{B}(p)</math>	<math>M_X(t) = 1-p+pe^t</math>
Betaverteilung <math>\mathrm{B}(a,b,p,q)</math><ref>Otto J.W.F. Kardaun: Classical Methods of Statistics. Springer-Verlag, 2005, ISBN 3-540-21115-2, S. 44.</ref>	<math>M_X(t) = 1+\sum_{n=1}^{\infty} \left( \prod_{k=0}^{n-1} \frac{a+k}{a+b+k} \right) \frac{t^n}{n!}</math>
Binomialverteilung <math>\mathrm{B}(p,n)</math>	<math>M_X(t) = (1-p+pe^t)^n</math>
Cauchy-Verteilung	Die Cauchy-Verteilung hat keine momenterzeugende Funktion.<ref>Allan Gut: Probability: A Graduate Course. Springer-Verlag, 2012, ISBN 978-1-4614-4707-8, Kapitel 8, Beispiel 8.2.</ref>
Chi-Quadrat-Verteilung <math>\chi_n^2</math> <ref>A. C. Davison: Statistical Models. Cambridge University Press, 2008, ISBN 978-1-4672-0331-9, Kapitel 3.2.</ref>	<math>M_X(t) = \frac{1}{(1-2 t)^{n/2}}</math>
Erlang-Verteilung <math>\mathrm{Erlang}(\lambda,n)</math>	<math>M_X(t) = \left(\frac{\lambda}{\lambda-t}\right)^n</math> für <math>t < \lambda</math>
Exponentialverteilung <math>\mathrm{Exp}(\lambda)</math>	<math>M_X(t) = \frac{\lambda}{\lambda-t}</math> für <math>t < \lambda</math>
Gammaverteilung <math>\gamma(p,b)</math>	<math>M_X(t) = \left(\frac{b}{b-t}\right)^p</math>
Geometrische Verteilung mit Parameter <math>p</math>	<math>M_X(t) = \frac{pe^t}{1-(1-p)e^t}</math>
Gleichverteilung über <math>[0,a]</math>	<math>M_X(t) = \frac{e^{ta}-1}{ta}</math>
Laplace-Verteilung mit Parametern <math>\mu, \sigma</math><ref>Hisashi Tanizaki: Computational Methods in Statistics and Econometrics. Verlag Taylor and Francis, 2004, ISBN 0-203-02202-5, Abschnitt 2.2.11.</ref>	<math>M_X(t) = \frac{e^{\mu t}}{1-\sigma^2 t^2}</math>
Negative Binomialverteilung <math>\mathrm{NB}(r,p)</math>	\ln(1-p)\|</math>
Normalverteilung <math>\mathrm{N}(\mu,\sigma^2)</math>	<math>M_X(t) = \exp{\left(\mu t+\frac{\sigma^2 t^2}{2}\right)}</math>
Poisson-Verteilung mit Parameter <math>\lambda</math>	<math>M_X(t) = \exp(\lambda(e^t-1))</math>

Verallgemeinerung auf mehrdimensionale Zufallsvariablen

Die momenterzeugende Funktion lässt sich auf <math>\ell</math>-dimensionale reelle Zufallsvektoren <math>\mathbf{X} = (X_1, \dots, X_\ell)</math> wie folgt erweitern:

<math>M_{\mathbf{X}}(\mathbf{t})= M_{\mathbf{X}}(t_1, \dots, t_l)=\operatorname{E}(e^{ \langle \mathbf{t},\mathbf{X}\rangle})=\operatorname{E}\left( \prod_{j=1}^\ell e^{t_jX_j}\right)</math>,

wobei <math>\langle\mathbf{t},\mathbf{X}\rangle = \sum\limits_{j=1}^{\ell} t_j X_j</math> das Standardskalarprodukt bezeichnet.

Wenn die Komponenten des Zufallsvektors paarweise voneinander unabhängig sind, dann ergibt sich die momenterzeugende Funktion als Produkt aus den momentgenerierenden Funktionen von eindimensionalen Zufallsvariablen:

<math>M_{\mathbf{X}}(t_1, \dots, t_l)=\operatorname{E}(e^{ \langle\mathbf{t},\mathbf{X}\rangle})=

 \prod_{j=1}^\ell  \operatorname{E}\left( e^{t_jX_j}\right)   = \prod_{j=1}^\ell M_{X_j}(t_j)</math>.

Siehe auch

Wahrscheinlichkeitserzeugende Funktion

Literatur

Klaus D. Schmidt: Maß und Wahrscheinlichkeit. 2. Auflage. Springer, Berlin / Heidelberg 2011, ISBN 978-3-642-21025-9, S. 378 ff.

Einzelnachweise