Quelltext der Seite Statistische Inferenz

'''Statistische Inferenz''' ist ein allgemeiner Begriff, der den Prozess des Schließens oder Folgerns über eine Population basierend auf Daten beschreibt, die aus einer Stichprobe dieser Population gezogen wurden. Dabei werden statistische Methoden und [[Statistisches Modell|statistische Modelle]] verwendet, um Aussagen über die gesamte Population zu treffen, basierend auf den beobachteten Daten.<ref>{{Cite book| edition = 1. Nachdr| publisher = Oldenbourg| isbn = 978-3-486-23650-7| last = Rüger| first = Bernhard| title = Test- und Schätztheorie. 1: Grundlagen| location = München Wien| date = 2012|language=de}}</ref>

Die Ausdrücke ''Statistische Inferenz'' und ''[[Inferenzstatistik]]'' werden oft synonym verwendet, jedoch ist die Inferenzstatistik ein Sammelbegriff für die konkreten Methoden, die benutzt werden, um statistische Inferenz durchzuführen.

Statistische Inferenz befasst sich insbesondere mit:
* [[Parameterschätzung]]
* [[Hypothesentest]]

[[Statistisches Modell|Statistische Modelle]] spielen eine wichtige Rolle bei der statistischen Inferenz.

== Moderne Inferenzkonzepte ==
=== Klassische oder Frequentistische Inferenz ===
Die [[frequentistische Inferenz]] basiert auf der Interpretation von Wahrscheinlichkeiten als Häufigkeiten oder relative Frequenzen von Ereignissen. Bei diesem Ansatz wird angenommen, dass die Parameter der Population fest, aber unbekannt sind. Die Schätzungen und Hypothesentests erfolgen auf der Grundlage wiederholter Stichproben und der Analyse ihrer Wahrscheinlichkeitsverteilungen.

=== Bayesianische Inferenz ===
Bei der [[Bayessche Inferenz|bayesianischen Inferenz]] werden Wahrscheinlichkeitsverteilungen verwendet, um Unsicherheiten über die Parameter der Population auszudrücken. Diese Unsicherheiten werden anhand von prior-Wahrscheinlichkeitsverteilungen beschrieben, die aktualisiert werden, um sogenannte Posterior-Wahrscheinlichkeitsverteilungen zu erhalten, die die Wahrscheinlichkeiten der Parameterwerte nach Berücksichtigung der Stichprobeninformationen darstellen.

=== Statistische Entscheidungstheorie oder entscheidungstheoretische Inferenz ===
Die statistische [[Entscheidungstheorie]] kombiniert statistische Inferenz mit Entscheidungstheorie, um fundierte Entscheidungen auf der Grundlage von Stichprobendaten zu treffen. Sie berücksichtigt die Kosten oder Nutzen verschiedener Handlungsoptionen sowie die Unsicherheit in den Schätzungen, um optimale Entscheidungsregeln zu entwickeln.

=== Beispiel ===
Ein Beispiel, das die unterschiedlichen Inferenzkonzepte verdeutlicht, ist die Bewertung der Wirksamkeit eines neuen Medikaments:

# '''Klassische Inferenz''': Ein klassischer Ansatz würde sich auf die Durchführung eines Hypothesentests konzentrieren, um zu prüfen, ob die Wirkung des Medikaments signifikant von einem Placebo abweicht. Die Schlussfolgerung wäre darauf ausgerichtet, statistische Signifikanz zu erreichen und eine allgemeine Aussage über die Wirksamkeit des Medikaments aufgrund der vorliegenden Stichprobendaten zu machen.
# '''Bayesianische Inferenz''': Bei einem bayesianischen Ansatz würde man a priori Wissen über das Medikament berücksichtigen, zum Beispiel Informationen aus früheren Studien oder Expertenmeinungen. Diese Informationen würden mit den aktuellen Beobachtungen kombiniert, um eine Wahrscheinlichkeitsverteilung für die Wirksamkeit des Medikaments zu erstellen. Die Schlussfolgerung würde auf der gesamten Wahrscheinlichkeitsverteilung basieren und nicht nur auf statistischer Signifikanz.
# '''Entscheidungstheoretische Inferenz''': In einem entscheidungstheoretischen Ansatz würde man nicht nur die Wirksamkeit des Medikaments bewerten, sondern auch die potenziellen Kosten und Nutzen verschiedener Handlungsoptionen berücksichtigen. Die Schlussfolgerung würde darauf abzielen, die beste Handlungsweise basierend auf einer umfassenden Bewertung der Kosten, Nutzen und Unsicherheiten zu empfehlen.

Durch dieses Beispiel wird deutlich, wie verschiedene Inferenzkonzepte unterschiedliche Schwerpunkte setzen und zu verschiedenen Schlussfolgerungen führen können, je nachdem, welche Annahmen und Bewertungskriterien verwendet werden.

== Weitere Inferenzkonzepte ==

=== Strukturinferenz ===

Strukturinferenz in der Statistik bezieht sich normalerweise auf den Prozess des Schließens auf die zugrunde liegende Struktur eines statistischen Modells oder Systems basierend auf beobachteten Daten. Im Gegensatz zur klassischen Inferenz, die sich auf Hypothesentests und Konfidenzintervalle konzentriert, und der bayesianischen Inferenz, die Bayes' Theorem verwendet, um Wahrscheinlichkeiten für Hypothesen zu berechnen, konzentriert sich Strukturinferenz darauf, Muster oder Strukturen in den Daten zu entdecken. Dies kann beispielsweise die Schätzung von Beziehungen zwischen Variablen in einem Netzwerkmodell, die Identifizierung von Faktoren in einer [[Faktorenanalyse]] oder die Erkennung von Mustern in Daten umfassen.

Strukturinferenzmethoden können sowohl in klassischen als auch in bayesianischen Rahmenwerken verwendet werden, abhängig von der spezifischen Fragestellung und den verfügbaren Daten.

=== Pivotalinferenz ===

Die Pivotalinferenz ist ein Begriff, der in der Statistik verwendet wird und sich auf den Einsatz von Pivotgrößen oder Pivotalstatistiken bezieht, um Konfidenzintervalle oder Hypothesentests zu konstruieren.<ref>{{Cite journal| doi = 10.1007/BF02888356| issn = 0041-0241| volume = 31| issue = 1| pages = 295–318| last = Barnard| first = G. A.| title = Pivotal inference and the Bayesian controversy| journal = Trabajos de Estadistica Y de Investigacion Operativa| access-date = 2024-05-12| date = 1980-02| url = http://link.springer.com/10.1007/BF02888356|language=en}}</ref> Eine Pivotgröße ist eine Funktion von Schätzern und/oder Daten, deren Verteilung unabhängig von den unbekannten Parametern des Modells ist, das untersucht wird. Pivotalstatistiken ermöglichen es, Konfidenzintervalle oder kritische Werte für Hypothesentests zu berechnen, ohne die Verteilung der Schätzungen oder Daten zu kennen. Dieser Ansatz ist in der frequentistischen Inferenz weit verbreitet.

Ein klassisches Beispiel für die Pivotalinferenz ist die Konstruktion von Konfidenzintervallen für den Mittelwert einer normalverteilten Population, wenn die Standardabweichung der Population bekannt ist.<ref>{{Cite book| edition = 4th ed| publisher = Addison-Wesley| isbn = 978-0-321-50046-5| last1 = DeGroot| first1 = Morris H.| last2 = Schervish| first2 = Mark J.| title = Probability and statistics| location = Boston| date = 2012|language=en}}</ref>

Angenommen, wir haben eine Stichprobe mit <math>n</math> Beobachtungswerten und dazugehörigen [[Stichprobenvariable]]n <math>X_1, X_2, \ldots, X_n</math>
von einer normalverteilten Population mit dem Mittelwert <math>\mu</math>
und der bekannten Standardabweichung <math>\sigma</math>. Der Stichprobenmittelwert <math>\bar{X}</math> folgt einer Normalverteilung mit dem Mittelwert <math>\mu</math> und der Standardabweichung <math>\sigma/\sqrt{n}</math>.

Die Pivotgröße in diesem Fall ist

:<math>Z=\frac{\bar{X}-\mu}{\sigma/\sqrt{n}}</math>,

da <math>Z</math> eine standardnormalverteilte Zufallsvariable ist, unabhängig von <math>\mu</math>. Gilt der zentrale Grenzwertsatz ist <math>Z</math> sogar unabhängig von der Verteilung der Stichprobenvariablen <math>X_i</math>.

Daraus können wir ein Konfidenzintervall für <math>\mu</math> konstruieren, indem wir die Standardnormalverteilung umkehren und kritische Werte finden, die den gewünschten Konfidenzniveau entsprechen. Zum Beispiel, für ein 95-%-Konfidenzintervall wählen wir die kritischen Werte
<math>z_{0{,}025}=-1{,}96</math> und <math>z_{0{,}975}=+1{,}96</math>.

Das Konfidenzintervall für <math>\mu</math> lautet dann:

:<math>\left[ \bar{X}-1{,}96\cdot\frac{\sigma}{\sqrt{n}}; \bar{X}+1{,}96\cdot\frac{\sigma}{\sqrt{n}}\right]</math>.

Dieses Intervall ist ein Beispiel für ein Konfidenzintervall, das durch die Verwendung einer Pivotgröße konstruiert wird. Die Pivotgröße <math>\frac{\bar{X}-\mu}{\sigma/\sqrt{n}}</math> spielt dabei eine zentrale Rolle, da sie es ermöglicht, das Vertrauensintervall ohne Kenntnis der tatsächlichen Verteilung der Stichprobenmittelwerte zu konstruieren.

=== Maximum-Likelihood-Inferenz ===

Die Maximum-Likelihood-Inferenz oder Likelihood-Inferenz beruht auf der Maximierung der Likelihood-Funktion, die die Wahrscheinlichkeit der beobachteten Daten in Abhängigkeit von den Parametern des Modells beschreibt.<ref>{{Cite journal| doi = 10.1002/wics.110| volume = 2| issue = 5| pages = 517–525| last = Reid| first = Nancy| title = Likelihood inference| journal = WIREs Computational Statistics| access-date = 2024-05-12| date = 2010-09| url = https://wires.onlinelibrary.wiley.com/doi/10.1002/wics.110}|language=en}}</ref> Die Schätzer, die durch die [[Maximum-Likelihood-Methode]] erhalten werden, sind konsistent, effizient und asymptotisch normalverteilt. Sie erreichen asymptotisch die [[Cramér-Rao-Ungleichung|Cramér-Rao-Schranke]], was bedeutet, dass sie die besten Schätzer für große Stichprobenumfänge sind.

In ziemlich großer Allgemeinheit können die folgenden Konvergenzergebnisse für Maximum-Likelihoodschätzer abgeleitet werden:

:<math>
\begin{align}
l'(\theta) I^{-1}(\hat{\theta}) l'(\theta)^T & \;\stackrel{\mathcal{L}}{\longrightarrow}\; \chi^2_d \\
(\theta-\hat{\theta})^T I(\hat{\theta}) (\theta-\hat{\theta})& \;\stackrel{\mathcal{L}}{\longrightarrow}\; \chi^2_d \\
2 (l(\theta) - l(\hat{\theta})) &\;\stackrel{\mathcal{L}}{\longrightarrow}\; \chi^2_d
\end{align}
</math>

In diesem Kontext bezeichnet <math>\theta</math> den unbekannten Parameter und
<math>\hat{\theta}</math> seinen Schätzwert. <math>l(\bullet)</math>
steht für die Log-Likelihood-Funktion,
<math>l'(\bullet)</math> für ihre erste Ableitung und <math>I(\bullet)</math> die negative zweite Ableitung (oder [[Fisher-Information]]).
<math>M^T</math> steht die [[transponierte Matrix]], während <math>\mathcal{L}</math> die [[Konvergenz in Verteilung]] darstellt.
Damit lassen sich in der frequentistischen Inferenz Hypothesentests und Konfidenzintervalle ableiten.

Bayesianische Inferenz basierend auf der Likelihood-Funktion ist im Prinzip recht einfach: Eine a priori Wahrscheinlichkeitsverteilung für <math>\theta</math>, wird mit der Likelihood-Funktion unter Verwendung der Regeln der bedingten Wahrscheinlichkeit kombiniert, um die a posteriori Dichte für <math>\theta</math> zu erhalten.

=== Fiducial-Inferenz ===

Sie ist ein statistisches Konzept, das von R. A. Fisher in den 1930er Jahren eingeführt wurde.<ref>{{cite journal | last1 = Fisher | first1 = R. A. | year = 1935 | title = The fiducial argument in statistical inference | journal = Annals of Eugenics | volume = 5 | issue = 4| pages = 391–398 | doi=10.1111/j.1469-1809.1935.tb02120.x|language=en}}</ref><ref>{{Cite web |url=http://www.hss.cmu.edu/philosophy/seidenfeld/relating%20to%20Fisher/Fisher%27s%20Fiducial%20Argument%20and%20Bayes%20Theorem.pdf |title=R. A. Fisher's Fiducial Argument and Bayes' Theorem by Teddy Seidenfeld |access-date=2015-08-25 |archive-date=2012-04-21 |archive-url=https://web.archive.org/web/20120421070144/http://www.hss.cmu.edu/philosophy/seidenfeld/relating%20to%20Fisher/Fisher%27s%20Fiducial%20Argument%20and%20Bayes%20Theorem.pdf |url-status=dead|language=en }}</ref> Es handelt sich um einen alternativen Ansatz zur statistischen Inferenz, der versucht, Konfidenzintervalle und Hypothesentests ohne Verwendung von Wahrscheinlichkeitsverteilungen zu konstruieren. Relativ vollständige Darstellungen der Fiducial-Inferenz finden sich bei Quenouille (1958)<ref>{{Cite book| publisher = Griffin| last = Quenouille| first = M.H.| title = The Fundamentals of Statistical Reasoning| series = Griffin's statistical monographs & courses| date = 1958|language=en}}</ref> und Kendall & Stuart (1973)<ref>{{Cite book| edition = 3. ed| publisher = Griffin| isbn = 978-0-85264-215-3| last1 = Kendall| first1 = Maurice G.| last2 = Stuart| first2 = Alan| last3 = Ord| first3 = John Keith| title = The advanced theory of statistics. 2: Inference and relationship| location = London| date = 1973|language=en}}</ref>.

Im Gegensatz zur bayesianischen Inferenz, bei der Wahrscheinlichkeitsverteilungen verwendet werden, um Unsicherheiten zu modellieren, und zur frequentistischen Inferenz, bei der Wahrscheinlichkeiten als Häufigkeiten interpretiert werden, beruht die Fiducial-Inferenz auf der Idee der fiduzialen Verteilung.

Die fiduziale Verteilung ist eine hypothetische Verteilung, die auf der Grundlage der beobachteten Daten konstruiert wird und so gewählt ist, dass sie einen Konfidenzgürtel um den wahren Wert des Parameters enthält. Dieser Konfidenzgürtel ist ähnlich einem Konfidenzintervall in der frequentistischen Inferenz, aber er wird ohne Verwendung von Wahrscheinlichkeitsverteilungen konstruiert.

Das Hauptproblem mit der Fiducial-Inferenz ist, dass die fiduziale Verteilung nicht eindeutig bestimmt ist und in vielen Fällen nicht existiert.
Fisher verlangte z.&nbsp;B. das Vorhandensein einer [[Suffiziente Statistik|suffizienten Statistik]] für die Anwendung der Fiducial-Inferenz. Dies führte zu Kritik an der Methode, und sie ist in der modernen Statistik weitgehend obsolet geworden. Stattdessen werden bayesianische und frequentistische Methoden weit häufiger verwendet, um Inferenzschlüsse zu ziehen, da sie solide theoretische Grundlagen haben und in der Praxis gut funktionieren.

== Charakterisierung von Inferenzkonzepten ==

Inferenzkonzepte können charakterisiert werden durch den ''Zweck'' der Schlussfolgerung, die ''Elemente'' des verwendeten Modells und die ''Gütebeurteilung'' des Schlusses.
* In einem ''kognitivistischen'' Inferenzkonzept ist der Zweck des Schlusses die Gewinnung von Erkenntnissen (klassische Inferenz, Likelihoodinferenz, Bayes-Inferenz), während die Schlussfolgerung in einem ''dezisionistischen'' Inferenzkonzept dem Treffen von Entscheidungen dient (entscheidungstheoretische Inferenz).
* Wenn Schlüsse aus Beobachtungen auf einem Modell beruhen, das nur objektive Elemente enthält, spricht man von einem ''objektivistischen'' Inferenzkonzept (klassische Inferenz, Likelihoodinferenz). Im Gegensatz dazu dürfen in ein ''subjektivistisches'' Inferenzkonzept auch subjektive Prämissen eingehen, z.&nbsp;B. das so genannte a priori Wissen (Bayes-Inferenz, entscheidungstheoretische Inferenz).
* Erfolgt die Gütebeurteilung eines Schlusses danach, wie oft er im Mittel zu einer richtigen Aussage führt, wenn er auf viele verschiedene Beobachtungen angewandt wird, handelt es sich um ein ''frequentistisches'' Inferenzkonzept (klassische Inferenz). In einem ''nichtfrequentistischen'' Inferenzkonzept wird ein Schluss hingegen danach beurteilt, wie plausibel er im Hinblick auf eine vorliegende Beobachtung ist (Likelihoodinferenz, Bayes-Inferenz, entscheidungstheoretische Inferenz).

== Beispiel ==
[[Empirische Risikominimierung]] wird häufig beim [[Maschinelles Lernen|maschinellen Lernen]] verwendet, um in [[Statistisches Modell|parametrischen Modellen]] die [[Parameter (Statistik)|Parameter]] festzulegen.

== Literatur ==
<references />
[[Kategorie:Mathematische Statistik]]