imported>Bigbossfarin: /* Normalverteilungen */Parameter durch Koeffizienten ersetzt, um Verwechslungen vorzubeugen.

2023-04-13T17:22:06Z

Normalverteilungen: Parameter durch Koeffizienten ersetzt, um Verwechslungen vorzubeugen.

Neue Seite

{{Dieser Artikel|behandelt eine technische Definition des Begriffs Identifizierbarkeit. Für eine weniger technische Beschreibung siehe [[Identifikationsproblem]].}}
Als '''Identifizierbarkeit''' eines [[Statistisches Modell|Modells]] bezeichnet man in der [[Statistik]] und insbesondere in der [[Ökonometrie]] die Eigenschaft von [[Schätzmethode (Statistik)|Schätzmodellen]], dass [[Inferenzstatistik]] auf sie anwendbar ist.

Ein Modell ist dann identifizierbar, wenn es theoretisch möglich ist, die dem Modell zugrundeliegenden [[Wahrer Wert|wahren Werte]] zu ermitteln, indem unendlich viele Beobachtungen gemacht wurden (gezogen wurden). Mathematisch bedeutet das, dass unterschiedliche Werte der Parameter des Modells unterschiedliche Wahrscheinlichkeitsfunktionen der beobachtbaren Variablen erzeugen.

In der Praxis, wo endlich viele Beobachtungen vorliegen, ist die Identifizierbarkeit eines Modells durch die Anzahl der zu schätzenden [[Regressionsparameter|Parameter]], die Anzahl der Beobachtungen und Anzahl der damit verbundenen [[Anzahl der Freiheitsgrade (Statistik)|Freiheitsgrade]] beschränkt.

[[Multikollinearität]] führt zu nicht identifizierbaren Parametern.

== Geschichte des Begriffs ==
Der Begriff Identifizierbarkeit wurde von dem Ökonometriker [[Tjalling Koopmans]] um 1945 in Bezug auf die ökonomische Identität einer Beziehung innerhalb eines Beziehungssystems geprägt. Der Begriff erschien darauf unmittelbar in der Ökonometrie-Literatur, obwohl Koopmans eigene Darstellung des Themas – seine „Identifikationsprobleme im ökonomischen Modellbau“ – erst 1949 erschien. Um 1950 wurde der Begriff von Statistikern aufgegriffen und in einem allgemeineren Sinn verwendet, siehe z. B. [[Jerzy Neyman]]s ''Existence of Consistent Estimates of the Directional Parameter in a Linear Structural Relation Between Two Variables''.<ref>Earliest Known Uses of Some of the Words of Mathematics: [https://jeff560.tripod.com/i.html ''Identifiability'']</ref>

== Definition ==
Sei <math> \mathcal{P}=\{P_\theta:\theta\in\Theta\} </math> ein [[statistisches Modell]] mit einem (möglicherweise unendlich-dimensionalen) [[Parameterraum]] <math>\Theta</math>. Dann heißt <math>\mathcal{P}</math> ''identifizierbar'', wenn die [[Funktion (Mathematik)|Abbildung]] <math>\theta\mapsto P_\theta</math> [[Injektive Funktion|injektiv]] ist. Es soll also gelten:
: <math>
P_{\theta_1}=P_{\theta_2} \quad\Rightarrow\quad \theta_1=\theta_2 \;\ \text{für alle}\quad\ \theta_1,\theta_2\in\Theta
</math>.

Verschiedene Werte von <math>\theta</Math> sollen also unterschiedlichen [[Wahrscheinlichkeitsverteilung]]en entsprechen.

Wenn die Verteilungen über [[Wahrscheinlichkeitsdichtefunktion]]en definiert sind, dann werden diese als unterschiedlich angesehen, wenn sie sich auf einer Menge von positivem [[Lebesgue-Maß]] unterscheiden. (Beispielsweise werden zwei Funktionen, die sich nur in einem Punkt unterscheiden, in diesem Sinne nicht als unterschiedlich Wahrscheinlichkeitsdichtefunktionen angesehen.)

Diese Identifizierbarkeit des Modells im Sinne der Invertierbarkeit von <math>\theta\mapsto P_\theta</math> ist äquivalent dazu, dass die [[Wahrer Wert|wahren]] Parameter des Modells bestimmbar sind, wenn man das Modell unendlich lange beobachten kann. Denn wenn <math>\{X_t\} \subseteq S</math> die [[Folge (Mathematik)|Folge]] der Beobachtungen ist, dann folgt aus dem [[Starkes Gesetz der großen Zahlen|starken Gesetz der großen Zahlen]]
: <math>
\frac 1 T \sum_{t=1}^T \mathbf{1}_{\{X_t\in A\}} \ \xrightarrow{\text{a. s.}}\ P(X_t\in A),
</math>
für jede [[messbare Menge]] <math>A\subset S</math>, wobei <math> \mathbf{1}_{\{...\}}</math> die [[Indikatorfunktion]] einer Menge bezeichnet. Mit einer unendlichen Anzahl von Beobachtungen kann man also die wahre Wahrscheinlichkeitsverteilung <math>P_\theta</math> und wegen der Invertierbarkeit der Abbildung <math>\theta\mapsto P_\theta</math> auch den wahren Wert des Parameters <math>\theta</math> bestimmen.

== Beispiele ==
=== Normalverteilungen ===
Sei <math>\mathcal{P}</math> die Familie der [[ Normalverteilung]]en, die eine [[Lage-Skalen-Familie]] bildet
: <math>
\mathcal{P} = \Big\{\ f_\theta(x) = \tfrac{1}{\sqrt{2\pi}\sigma} e^{ -\frac{1}{2\sigma^2}(x-\mu)^2 }\ \Big | \ \theta=(\mu,\sigma): \mu\in\mathbb{R}, \,\sigma\!>0 \ \Big\}
</math>.
Dann ist
: <math>
\begin{align}
& f_{\theta_1}=f_{\theta_2} \\[6pt]
\Longleftrightarrow {} & \frac 1 {\sqrt{2\pi}\sigma_1} \exp\left( -\frac 1 {2\sigma_1^2} (x-\mu_1)^2 \right) = \frac 1 {\sqrt{2\pi}\sigma_2} \exp\left( -\frac 1 {2\sigma_2^2}(x-\mu_2)^2 \right) \\[6pt]
\Longleftrightarrow {} & \frac 1 {\sigma_1^2}(x-\mu_1)^2 + \ln \sigma_1 = \frac 1 {\sigma_2^2}(x-\mu_2)^2 + \ln \sigma_2 \\[6pt]
\Longleftrightarrow {} & x^2 \left(\frac 1 {\sigma_1^2}-\frac 1 {\sigma_2^2}\right) - 2x\left(\frac{\mu_1}{\sigma_1^2}-\frac{\mu_2}{\sigma_2^2} \right) + \left(\frac{\mu_1^2}{\sigma_1^2}-\frac{\mu_2^2}{\sigma_2^2}+\ln\sigma_1-\ln\sigma_2\right) = 0
\end{align} </math>.
Dieser Ausdruck ist genau dann [[fast überall]] null, wenn alle Koeffizienten null sind, was nur für <math>\vert\sigma_1\vert=\vert\sigma_2\vert</math> und <math>\mu_1=\mu_2</math> möglich ist. Weil der [[Skalenparameter]] <math>\sigma</math> positiv ist, ist das Modell identifizierbar: <math>f_{\theta_1} = f_{\theta_2} \Leftrightarrow \theta_1 = \theta_2</math>.

=== Multiples lineares Regressionsmodell ===
Sei <math>\mathcal{P}</math> das [[Multiple lineare Regression#Das klassische Modell der linearen Mehrfachregression|das klassische Modell der linearen Mehrfachregression]] <math>\mathbf y = \mathbf X \boldsymbol{\beta} + \boldsymbol \varepsilon</math>, mit <math>\boldsymbol\beta</math> dem <math>p \times 1</math> Vektor der unbekannten [[Regressionsparameter]], der <math>n \times p</math> [[Versuchsplanmatrix]] <math>\mathbf{X}</math>, dem <math>n \times 1</math> Vektor der abhängigen Variablen <math>\mathbf{y}</math> und dem <math>n \times 1</math> Vektor der [[Störgröße und Residuum|Störgrößen]] <math>\boldsymbol \varepsilon</math>. Dann ist der Parameter <math>\hat\boldsymbol\beta</Math> genau dann identifizierbar, wenn die Matrix <math>(\mathbf X^{\top}\mathbf X)^{-1}</math> [[Invertierbare Matrix|invertierbar]] ist.

=== Klassisches Fehler-in-den-Variablen-Modell ===
Sei <math>\mathcal{P}</math> das klassische [[Fehler-in-den-Variablen-Modell]]
: <math>\begin{cases}
y = \beta x^* + \varepsilon, \\
x = x^* + \eta,
\end{cases},</math>
wobei <math>(\varepsilon,\eta,x^*)</math> gemeinsam normalverteilte [[Stochastisch unabhängige Zufallsvariablen|unabhängige]] [[Zufallsvariable]]n mit [[Erwartungswert]] null und unbekannter [[Varianz (Stochastik)|Varianz]] sind und nur die Variablen <math>(x,y)</math> beobachtet werden.

Dieses Modell ist nicht identifizierbar. Jedoch ist das Produkt <math>\beta\sigma_*^2</math> (wobei <math>\sigma_*^2</math> die Varianz des [[Konstrukt|latenten]] Regressors <math>x^*</math> ist) identifizierbar.

In diesem Beispiel kann zwar nicht der exakte Wert von <math>\hat\beta</Math> identifiziert werden, jedoch kann man garantieren, dass er im Intervall <math>(\hat \beta_{yx},\frac{1}{\hat \beta_{xy}})</math> liegen muss, wobei <math>\hat \beta_{yx}</math> und <math>\hat \beta_{yx}</math> die Koeffizienten sind, die mittels einer [[Methode der kleinsten Quadrate|gewöhnlichen Kleinste-Quadrate-Schätzung]] von <math>y</math> auf <math>x</math> bzw. <math>x</math> auf <math>y</math> gewonnen wurden.

== Literatur ==
* {{Literatur
|Autor=Hans-Friedrich Eckey, Reinhold Kosfeld, Christian Dreger
|Titel=Ökonometrie: Grundlagen, Methoden, Beispiele
|Verlag=Gabler Verlag
|Datum=2004
|ISBN=978-3-409-33732-8
|Seiten=321
|Online={{Google Buch|BuchID=cM5tjJKkUoIC|Seite=321}}}}

== Einzelnachweise ==
<references />

[[Kategorie:Regressionsanalyse]]
[[Kategorie:Zeitreihenanalyse]]
[[Kategorie:Schätztheorie]]

Identifizierbarkeit - Versionsgeschichte

imported>Bigbossfarin: /* Normalverteilungen */Parameter durch Koeffizienten ersetzt, um Verwechslungen vorzubeugen.