imported>Sokrates 399: Durchkopplung#Komposita_aus_Zahlen,_Wörtern_und_Sonderzeichen änderte sich 2024

2025-10-17T08:37:14Z

Durchkopplung#Komposita_aus_Zahlen,_Wörtern_und_Sonderzeichen änderte sich 2024

Neue Seite

{{Redundanztext
|3=Schätzung der Varianz einer Schätzfunktion
|4=Standardfehler
|2=Oktober 2021|1=[[Benutzer:Biggerj1|biggerj1]] ([[Benutzer Diskussion:Biggerj1|Diskussion]]) 19:50, 17. Okt. 2021 (CEST)}}
Der '''Standardfehler''' oder '''Stichprobenfehler''' ist ein [[Streuung (Statistik)|Streuungsmaß]] für eine [[Schätzfunktion]] <math>\hat{\vartheta}</math> für einen unbekannten Parameter <math>\vartheta</math> der [[Grundgesamtheit]]. Der Standardfehler ist definiert als die [[Standardabweichung (Wahrscheinlichkeitstheorie)|Standardabweichung]] <math>\sigma(\hat{\vartheta}) = \sqrt{\operatorname{Var}(\hat{\vartheta})}</math> der Schätzfunktion, <math>\hat{\vartheta}</math>, das heißt also die [[Quadratwurzel]] aus der [[Varianz (Stochastik)|Varianz]]<ref>{{Internetquelle |autor=Eric W. Weisstein |url=https://mathworld.wolfram.com/StandardError.html |titel=Standard Error |abruf=2021-11-07 |sprache=en}}</ref>. In den Naturwissenschaften und der Metrologie wird auch der durch den [[GUM (Norm)|GUM]] geprägte Begriff [[Standardunsicherheit]] verwendet.

Bei einem [[Erwartungstreue|erwartungstreuen]] Schätzer ist daher der Standardfehler ein Maß für die durchschnittliche Abweichung des geschätzten Parameterwertes vom wahren Parameterwert. Je kleiner der Standardfehler ist, desto genauer kann der unbekannte Parameter mit Hilfe der Schätzfunktion geschätzt werden. Der Standardfehler hängt unter anderem ab von

* dem Stichprobenumfang und
* der Varianz in der Grundgesamtheit.

Allgemein gilt: Je größer der Stichprobenumfang, desto kleiner der Standardfehler; je kleiner die Varianz, desto kleiner der Standardfehler.

Eine wichtige Rolle spielt der Standardfehler auch bei der Berechnung von [[Schätzfehler]]n, [[Konfidenzintervall]]en und [[Teststatistik]]en.

== Interpretation ==
Der Standardfehler liefert eine Aussage über die [[Trennschärfe eines Tests|Güte]] des geschätzten Parameters. Je mehr Einzelwerte es gibt, desto kleiner ist der Standardfehler, und umso genauer kann der unbekannte Parameter geschätzt werden. Der Standardfehler macht die gemessene Streuung (Standardabweichung) zweier Datensätze mit unterschiedlichen Stichprobenumfängen vergleichbar, indem er die Standardabweichung auf den Stichprobenumfang normiert.

Wird mit Hilfe von mehreren Stichproben der unbekannte Parameter geschätzt, so werden die Ergebnisse von Stichprobe zu Stichprobe variieren. Natürlich stammt diese Variation nicht von einer Variation des unbekannten Parameters (denn der ist fix), sondern von Zufallseinflüssen, z. B. Messungenauigkeiten. Der Standardfehler ist die Standardabweichung der geschätzten Parameter in vielen Stichproben. Im Allgemeinen gilt: Für eine Halbierung des Standardfehlers ist eine Vervierfachung des Stichprobenumfangs nötig.

Im Gegensatz dazu bildet die Standardabweichung die in einer [[Grundgesamtheit]] tatsächlich vorhandene Streuung ab, die auch bei höchster Messgenauigkeit und unendlich vielen Einzelmessungen vorhanden ist (z. B. bei Gewichtsverteilung, Größenverteilung, Monatseinkommen). Sie zeigt, ob die Einzelwerte nahe beieinander liegen oder eine starke Spreizung der Daten vorliegt.

== Beispiel ==
Angenommen, man untersucht die Grundgesamtheit von Kindern, die Gymnasien besuchen, hinsichtlich ihrer Intelligenzleistung. Der unbekannte Parameter ist also die mittlere Intelligenzleistung der Kinder, die ein Gymnasium besuchen. Wenn nun zufällig aus dieser Grundgesamtheit eine Stichprobe des Umfanges <math>n</math> (also mit <math>n</math> Kindern) gezogen wird, dann kann man aus allen <math>n</math> Messergebnissen den [[Mittelwert]] berechnen. Wenn nun nach dieser Stichprobe noch eine weitere, zufällig gezogene Stichprobe mit der gleichen Anzahl von <math>n</math> Kindern gezogen und deren Mittelwert ermittelt wird, so werden die beiden Mittelwerte nicht exakt übereinstimmen. Zieht man noch eine Vielzahl weiterer zufälliger Stichproben des Umfanges <math>n</math>, dann kann die Streuung aller empirisch ermittelten Mittelwerte um den Mittelwert der Grundgesamtheit ermittelt werden. Diese Streuung ist der Standardfehler. Da der Mittelwert der Stichprobenmittelwerte der beste Schätzer für den Mittelwert der Grundgesamtheit ist, entspricht der Standardfehler der Streuung der empirischen Mittelwerte um den Mittelwert der Grundgesamtheit. Er bildet nicht die Intelligenzstreuung der Kinder, sondern die Genauigkeit des errechneten Mittelwerts ab.

== Notation ==
Für den Standardfehler benutzt man verschiedene Bezeichnungen um ihn von der Standardabweichung <math>\sigma</math> der Grundgesamtheit zu unterscheiden und um zu verdeutlichen, dass es sich um die Streuung des geschätzten Parameters von Stichproben handelt:

* <math>\sigma_n</math>,
* <math>\sigma(\hat{\vartheta})</math> oder
* <math>\sigma_{\hat{\vartheta}}</math>.

== Konfidenzintervalle und Tests ==
Der Standardfehler spielt auch eine wichtige Rolle bei [[Konfidenzintervall]]en und [[Test]]s. Wenn die Schätzfunktion <math>\hat{\vartheta}</math> [[erwartungstreu]] und zumindest approximativ [[Normalverteilung|normalverteilt]] (<math>\mathcal{N}(\vartheta, \sigma^2(\hat{\vartheta}))</math>) ist, dann ist

:<math> \frac{\hat{\vartheta}-\vartheta}{\sigma(\hat{\vartheta})} \approx \mathcal{N}(0; 1)</math>.

Auf dieser Basis lassen sich <math>(1-\alpha)</math>-[[Konfidenzintervall]]e für den unbekannten Parameter <math>\vartheta</math> angeben:

:<math>P(\hat{\vartheta}-z_{1-\alpha/2}\sigma(\hat{\vartheta}) \leq \vartheta \leq \hat{\vartheta}+z_{1-\alpha/2}\sigma(\hat{\vartheta})) = 1-\alpha</math>

bzw. Tests formulieren, z. B. ob der Parameter einen bestimmten Wert <math>\vartheta_0</math> annimmt:

:<math>H_0: \vartheta=\vartheta_0</math> vs. <math>H_1: \vartheta \neq \vartheta_0</math>

und die Teststatistik ergibt sich zu:

:<math>V=\frac{\hat{\vartheta}-\vartheta_0}{\sigma(\hat{\vartheta})} \approx \mathcal{N}(0; 1)</math>.

<math>z_{1-\alpha/2}</math> ist das <math>(1-\alpha/2)</math>-[[Quantil (Wahrscheinlichkeitstheorie)|Quantil]] der Standardnormalverteilung und sind auch der [[Kritischer Wert (Statistik)|kritische Wert]] für den formulierten Test. In der Regel muss <math>\sigma(\hat{\vartheta})</math> aus der Stichprobe geschätzt werden, so dass

:<math>V=\frac{\hat{\vartheta}-\vartheta_0}{\hat{\sigma}(\hat{\vartheta})} \approx t_{n-1}</math>

gilt, wobei <math>n</math> die Anzahl der Beobachtungen ist. Für <math>n\geq30</math> kann die [[Studentsche t-Verteilung|t-Verteilung]] durch die Standardnormalverteilung approximiert werden.

== Standardfehler des arithmetischen Mittels ==
Der Standardfehler des [[Stichprobenmittel|arithmetischen Mittels]] ist gleich

:<math>\sigma(\overline{X}) = \frac{\sigma}{\sqrt{n}}</math>,

wobei <math>\sigma</math> die Standardabweichung einer einzelnen Messung bezeichnet.
Der Standardfehler des Mittelwertes kann entweder mit obiger Formel und Schätzung von <math>\sigma</math> berechnet werden, oder direkt mithilfe des [[Bootstrapping-Verfahren]]s oder der [[Jackknife-Methode]].

=== Herleitung ===
Der Mittelwert einer Stichprobe vom Umfang <math>n</math> ist definiert durch
:<math>\overline x = \frac1n\sum_{i=1}^nx_i.</math>
Betrachtet man die Schätzfunktion

:<math>\overline{X}=\frac{1}{n}\sum_{i=1}^n X_i</math>

mit [[Unabhängig und identisch verteilte Zufallsvariablen|unabhängigen, identisch verteilten Zufallsvariablen]] <math>X_1,\ldots,X_n</math> mit endlicher Varianz <math>\sigma^2</math>, so ist der Standardfehler definiert als die Wurzel aus der Varianz von <math>\overline X</math>.
Man berechnet unter Verwendung der [[Varianz (Stochastik)#Rechenregeln und Eigenschaften|Rechenregeln für Varianzen]] und der [[Gleichung von Bienaymé]]:

:<math>\sigma(\overline{X})^2 = \operatorname{Var}\left(\overline X\right) = \operatorname{Var}\left(\frac 1n\sum_{i=1}^n X_i\right) =
\frac 1{n^2}\operatorname{Var}\left(\sum_{i=1}^n X_i\right) =
\frac 1{n^2}\sum_{i=1}^n \operatorname{Var}\left(X_i\right) =
\frac 1{n^2}n\sigma^2 =\frac{\sigma^2}n </math>

woraus die Formel für den Standardfehler folgt. Falls <math>\operatorname{Var}(X_i)=\sigma_i^2</math> gilt, so folgt analog

:<math>\sigma(\overline{X})^2 = \frac{1}{n^2}\sum_{i=1}^n \sigma_i^2</math>.

=== Schätzung von σ ===
Da in den Standardfehler die Standardabweichung <math>\sigma</math> der Grundgesamtheit eingeht, muss für eine Schätzung des Standardfehlers die Standardabweichung in der Grundgesamtheit mit einem möglichst erwartungstreuen Schätzer derselben geschätzt werden.

Unterstellt man eine Stichprobenverteilung, so kann der Standardfehler anhand der Varianz der Stichprobenverteilung berechnet werden:

* bei der '''[[Binomialverteilung]]''' mit Parametern <math>N,\, p</math>
:<math>\sigma_{\bar x,\mathrm{binom}} = \frac{\sqrt{ N \cdot p \cdot (1-p)}}{\sqrt n}</math>,

* bei der '''[[Exponentialverteilung]]''' mit Parameter <math>\lambda</math> (Erwartungswert = Standardabweichung = <math>1/\lambda</math>):
:<math>\sigma_{\bar x,\mathrm{exp}} = \frac{1}{\lambda\sqrt n}</math>

* und bei der '''[[Poisson-Verteilung]]''' mit Parameter <math>\lambda</math> (Erwartungswert = Varianz = <math>\lambda</math>):
:<math>\sigma_{\bar x,\mathrm{poisson}} = \sqrt{\frac{\lambda}{n}}</math>

Dabei bezeichnen
* <math>\sigma_{\bar x,\mathrm{binom}}, \sigma_{\bar x,\mathrm{exp}}, \sigma_{\bar x,\mathrm{poisson}}</math> die Standardfehler der jeweiligen Verteilung, und
* <math>n</math> den Stichprobenumfang.

Soll der Standardfehler für den Mittelwert geschätzt werden, dann wird die Varianz <math>\sigma^2</math> mit der [[Korrigierte Stichprobenvarianz|korrigierten Stichprobenvarianz]] geschätzt.

=== Beispiel ===
Für die Eiscreme-Daten<ref name="krk">Koteswara Rao Kadiyala (1970): ''Testing for the independence of regression disturbances.'' In: ''Econometrica'', 38, 97–117.</ref><ref name="icecream">[http://lib.stat.cmu.edu/DASL/Datafiles/IceCream.html ''Eiscreme Daten.''] In: ''Data and Story Library'', abgerufen am 16. Februar 2010</ref> wurde für den Pro-Kopf-Verbrauch von Eiscreme (gemessen in [[Pinte|Pint]]) das arithmetische Mittel, dessen Standardfehler und die Standardabweichung für die Jahre 1951, 1952 und 1953 berechnet.

{| class="wikitable centered" style="text-align:right"
|-
! Jahr
! Mittelwert
! Standardfehler<br />des Mittelwerts
! Standard-<br />abweichung
! Anzahl der<br />Beobachtungen
|-
| 1951
| 0,34680
| 0,01891
| 0,05980
| 10
|-
| 1952
| 0,34954
| 0,01636
| 0,05899
| 13
|-
| 1953
| 0,39586
| 0,03064
| 0,08106
| 7
|}

Für die Jahre 1951 und 1952 sind die geschätzten Mittelwerte und Standardabweichungen sowie die Beobachtungszahlen etwa gleich. Deswegen ergeben die geschätzten Standardfehler auch etwa den gleichen Wert. Im Jahr 1953 sind zum einen die Beobachtungszahlen geringer als auch die Standardabweichung größer. Daher ist der Standardfehler fast doppelt so groß wie die Standardfehler aus den Jahren 1951 und 1952.

[[Datei:Icecream.png|200px|rechts|95 % Schätzintervalle für drei Jahre für das arithmetische Mittel des Pro-Kopf-Eiscremeverbrauchs.]]
Die grafische Darstellung kann mittels eines [[Fehlerbalkendiagramm]]s erfolgen. Rechts werden die 95-%-Schätzintervalle für die Jahre 1951, 1952 und 1953 dargestellt. Wenn die [[Stichprobenfunktion]] <math>\bar{X}</math> zumindest approximativ normalverteilt ist, dann sind die 95-%-Schätzintervalle gegeben durch <math>\bar{x_j}\pm 1{,}96 \cdot s_j/\sqrt{n_j}</math> mit <math>j=1951, 1952, 1953</math> und <math>\bar{x}_j</math> die Stichprobenmittelwerte und <math>s_j^2</math> die Stichprobenvarianzen.

Auch hier sieht man deutlich, dass der Mittelwert 1953 ungenauer geschätzt werden kann als die Mittelwerte von 1951 und 1952 (längerer Balken für 1953).

=== Endlich große Population ===
Bei einer endlich großen Population mit Größe <math>N</math> und Stichprobengröße <math>n</math>
ist die Varianz des geschätzten Mittelwertes<ref>Quenouille, M. (2014). Introductory Statistics. Niederlande: Elsevier Science. https://books.google.de/books?id=anHiBQAAQBAJ&pg=PA208</ref>
:<math>\operatorname{Var}\left( \frac1n \sum_i X_i \right) = \frac{1}{n}\left(1-\frac{n}{N}\right) \sigma^2.</math>
Die Varianz des Mittelwert-Schätzers ist somit Null, wenn <math>n=N</math>.

== Standardfehler der Regressionskoeffizienten im einfachen Regressionsmodell ==

Im [[Klassisches lineares Modell|klassischen Regressionsmodell]] für die [[einfache lineare Regression]] <math>Y_i = \beta_{0}+\beta_{1} x_i + \varepsilon_i</math> wird vorausgesetzt, dass

* die [[Störterm]]e <math>\varepsilon_i \sim\, (0, \sigma^2)</math> [[Normalverteilung|normalverteilt]] sind,
* die Störterme unabhängig sind und
* die Werte <math>x_i</math> fix sind (also keine Zufallsvariablen),

wobei <math>i=1,\ldots,n</math> die gemachten Beobachtungen durchläuft. Für die [[Schätzfunktion]]en

:<math>\hat{\beta}_{1} = \frac{\sum_i (x_i - \overline{x}) (Y_i-\overline{Y})}{\sum_i (x_i-\overline{x})^2}</math> und

:<math>\hat{\beta}_{0} = \overline{Y} - \hat{\beta}_{1} \overline{x}</math>

ergibt sich dann

:<math>\hat{\beta}_{1} \sim \mathcal{N}(\beta_1, \sigma_{\hat{\beta}_{1}}^2)</math> und <math>\hat{\beta}_{0} \sim \mathcal{N}(\beta_{0}, \sigma_{\hat{\beta}_{0}}^2)</math>.

Die [[Standardfehler des Regressionskoeffizienten|Standardfehler der Regressionskoeffizienten]] ergeben sich zu

:<math>
\sigma_{\hat{\beta}_{1}} =
\operatorname{SD}(\hat{\beta}_{1}) = \sigma \sqrt{\underbrace{\frac{1}{\sum\nolimits_{i=1}^{n} (x_i- \overline x)^2}}_{=: a_{1}}} = \sigma \cdot \sqrt{a_{1}}
</math>

und

:<math>\sigma_{\hat{\beta}_{0}} = \operatorname{SD}(\hat{\beta}_{0}) = \sigma\sqrt{ \underbrace{\frac{\sum\nolimits_{i=1}^{n} x_i^2}{n\sum\nolimits_{i=1}^{n} (x_i- \overline x)^2}}_{=: a_{0}}} =\sigma\cdot \sqrt{a_{0}}</math>.

'''Beispiel''': Für die Eiscreme-Daten<ref name="krk" /><ref name="icecream" /> wurde für den Pro-Kopf-Verbrauch von Eiscreme (gemessen in halbe Liter) eine einfache lineare Regression mit der mittleren Wochentemperatur (in Fahrenheit) als unabhängige Variable durchgeführt. Die Schätzung des Regressionsmodells ergab:

:<math>\text{Pro-Kopf-Verbrauch} = 0{,}20686 + 0{,}00311 \cdot \text{Temperatur}</math>.

{| class="wikitable centered"
|-
! Modell
! colspan="2"| Nicht standardisierte Koeffizienten
! rowspan="2"| Standardisierte<br />Koeffizienten
! T
! Sig.
|-
!
! Regressionskoeffizienten
! Standardfehler
!
!
|- align="right"
! style="text-align:left"| Konstante
| 0,20686
| 0,02470
|
| 8,375
| 0,000
|- align="right"
! style="text-align:left"| Temperatur
| 0,00311
| 0,00048
| 0,776
| 6,502
| 0,000
|}

Zwar ist der geschätzte Regressionskoeffizient für die mittlere Wochentemperatur sehr klein, jedoch ergab der geschätzte Standardfehler einen noch kleineren Wert. Die Genauigkeit, mit der der Regressionskoeffizient geschätzt wird, ist gut 6,5 mal so klein wie der Koeffizient selbst.

== Zusammenhang mit der Log-Likelihood ==
{{Siehe auch|Schätzung der Varianz einer Schätzfunktion}}
Der Ausdruck
:<math>\sigma(\hat{\theta}_{ML})=\frac{1}{\sqrt{-\frac{\partial^2}{\partial\theta^2} \ell(\hat{\theta}_{ML})}} </math>
wird auch als ''Standardfehler des [[Maximum-Likelihood-Schätzung|Maximum-Likelihood-Schätzers]]'' bezeichnet, wobei <math>\ell(\cdot) = \log{\mathcal{L}}(\cdot)</math> die [[Log-Likelihood-Funktion]] und <math>-\frac{\partial^2}{\partial\theta^2} \ell(\hat{\theta}_{ML})</math> die beobachtete [[Fisher-Information]] darstellt (die Fisher-Information an der Stelle des ML-Schätzers <math>\hat{\theta}_{ML}</math>).<ref name="Loglikelihood and Confidence Intervals">{{Internetquelle |url=http://personal.psu.edu/abs12//stat504/online/01b_loglike/01b_loglike_print.htm |titel=Supplement: Loglikelihood and Confidence Intervals |abruf=2021-07-14}}</ref>

== Siehe auch ==

* [[Standardfehler der Regression]]

== Einzelnachweise ==
<references />

[[Kategorie:Schätztheorie]]
[[Kategorie:Stochastik]]

Standardfehler - Versionsgeschichte

imported>Sokrates 399: Durchkopplung#Komposita_aus_Zahlen,_Wörtern_und_Sonderzeichen änderte sich 2024