imported>ⵓ: Vorlage {{rp}} mit S. ersetzt Vorlage {{rp}} mit S. ersetzt/ →

2025-11-24T21:41:26Z

Vorlage {{rp}} mit S. ersetzt Vorlage {{rp}} mit S. ersetzt/ →

Neue Seite

In der [[Statistik]] ist die '''multinomiale [[logistische Regression]]''', auch '''multinomiales Logit-Modell'''<ref>{{Literatur|Autor=[[Gerhard Tutz]] |Titel=Die Analyse kategorialer Daten – Anwendungsorientierte Einführung in Logit-Modellierung und kategoriale Regression |Verlag=Oldenbourg |Ort=München / Wien |Datum=2000 |ISBN=3-486-25405-7 |Fundstelle= Abschnitt ''5.2 Das multinomiale Logit-Modell'', S. 162–173}}</ref>, '''multinomiale Logit-Regression''' ('''MNL'''), '''polytome logistische Regression''', '''polychotome logistische Regression''', '''[[Softmax]]-Regression''' oder '''Maximum-Entropie-Klassifikator''' genannt, ein [[Regressionsanalyse|regressionsanalytisches]] Verfahren. Sie „dient zur Schätzung von Gruppenzugehörigkeiten bzw. einer entsprechenden Wahrscheinlichkeit hierfür.“<ref>{{Webarchiv|url=http://ffb.uni-lueneburg.de/ffb-files/File/Fuenfter%20Teil.pdf |wayback=20140327131758 |text=Archivierte Kopie }}</ref> Die Antwortvariable (auch [[Abhängige und unabhängige Variable|abhängige Variable]], AV) ist dabei eine nominalskalierte Variable (Unterform der [[Kategoriale Variable|kategorialen Variable]], bei der die Kategorien nicht in eine sinnvolle Reihenfolge zu bringen sind). Im Falle einer [[Ordinalskala|ordinalskalierten AV]] (ebenfalls kategorial, aber in Reihenfolge mit gleichmäßigen Abständen zwischen den Kategorien zu bringen) spricht man von einer [[Geordnete logistische Regression|geordneten (bzw. ordinalen) logistischen Regression]]. Bei gegebener verhältnis- oder intervallskalierter AV kann dagegen eine (Multiple) [[Lineare Regression]] gerechnet werden.

== Beschreibung des Verfahrens ==
Es handelt sich um eine spezielle Form der [[logistische Regression|logistischen Regression]], bei der die [[abhängige Variable|Antwortvariable]] <math>Y_{i}</math> ein [[Nominalskala|nominales Skalenniveau]] mit mehr als zwei [[Merkmalsausprägung|Ausprägungen]] haben darf <math>Y_{i} \in \{1,\ldots,c+1\}</math>. Zusätzlich ist der [[Vektor]] der [[Einflussgröße und Zielgröße|Regressoren]] <math>\mathbf x_{i}^{\top} = (1 , x_{i1},\ldots, x_{ik})</math> gegeben. Dabei wird für jede der Ausprägungen der abhängigen Variablen (bis auf eine [[Referenzkategorie]]) ein eigenes [[Regressionsanalyse|Regressionsmodell]] ausgegeben. Die [[Eintrittswahrscheinlichkeit]] für jede Kategorie <math>r</math> ist wie folgt [[Spezifikation (Statistik)|spezifiziert]]:<ref name="Fahrmeier_etal" details="S. 330">Ludwig Fahrmeir, [[Thomas Kneib]], Stefan Lang, Brian Marx: ''Regression: models, methods and applications.'' Springer Science & Business Media, 2013, ISBN 978-3-642-34332-2</ref>

:<math>\pi_{ir} = \Pr(Y_i = r) = \frac{\exp\left(\mathbf{x}^{\top}_i \boldsymbol{\beta}_{r}\right)}{1 + \sum_{s=1}^{c} \exp\left(\mathbf{x}^{\top}_i \boldsymbol{\beta}_{s}\right)}\quad, \;r=1,\ldots,c</math>,

mit den [[Linearer Prädiktor|linearen Prädiktoren]] <math>\mathbf{x}^{\top}_i \boldsymbol{\beta}_{r}</math> und <math>\pi_{ir} = h_{r}(\eta_{ir}, \ldots, \eta_{ic})\, ,\;r=1,\ldots,c</math> als der [[Kopplungsfunktion#Antwortfunktion|Antwortfunktion]], d. h. der [[Umkehrfunktion]] der [[Kopplungsfunktion]].<ref name=Fahrmeier_etal details="S. 344" /> Für die Referenzkategorie gilt somit:

:<math>\pi_{i,c+1} =1 -\pi_{i1}-\ldots-\pi_{ic} = \frac{1}{1 + \sum_{s=1}^{c} \exp\left(\mathbf{x}^{\top}_i \boldsymbol{\beta}_{s}\right)}</math>.

== Likelihood-Funktion ==
Die beobachteten Werte <math>y_i \in \{0,1,\dots K\}</math> für <math>i=1,\dots,n</math> der erklärten Variablen werden als [[Realisierung (Stochastik)|Realisierungen]] stochastisch unabhängiger [[Kategoriale Verteilung|kategorial verteilt]]er Zufallsvariablen <math>Y_1,\dots, Y_n</math> aufgefasst.

Die Likelihood-Funktion ist für dieses Modell definiert durch:
:<math>L = \prod_{i=1}^n P(Y_i=y_i) = \prod_{i=1}^n \left( \prod_{j=1}^K P(Y_i=j)^{\delta_{j,y_i}} \right) ,</math>
wobei der Index <math>i</math> die Beobachtungen 1 bis n bezeichnet und der Index <math>j</math> die Klassen 1 bis K.
<math>\delta_{j,y_i}=\begin{cases}1 \text{ für } j=y_i \\ 0 \text{ sonst}\end{cases}</math> ist das [[Kronecker-Delta]].

Die mit minus 1 multiplizierte log Likelihood-Funktion ist daher die bekannte [[Kreuzentropie]]:
:<math>-\log L = - \sum_{i=1}^n \sum_{j=1}^K \delta_{j,y_i} \log(P(Y_i=j)).</math>

== Beispiel ==
Das Beispiel behandelt die Wahlabsicht einer Person in Abhängigkeit personenspezifischer Faktoren. Aus Umfragedaten sei die Wahlabsicht einer Person nach verschiedenen Parteien bekannt (abhängige [[kategoriale Variable]]). Diese soll erklärt werden durch verschiedene Faktoren (deren [[Skalenniveau]] unerheblich ist), beispielsweise Alter, Geschlecht und Bildung.

== Literatur ==
* {{Literatur|Autor=David W. Hosmer, Stanley Lemeshow |Titel=Applied logistic regression |Auflage=2 |Verlag=Wiley |Ort=New York |Datum=2000 |ISBN=0-471-35632-8 |Fundstelle= Abschnitt ''8.1 The multinomial logistic regression'', S. 260–287}}
* {{Literatur|Autor=[[Gerhard Tutz]] |Titel=Die Analyse kategorialer Daten – Anwendungsorientierte Einführung in Logit-Modellierung und kategoriale Regression |Verlag=Oldenbourg |Ort=München / Wien |Datum=2000 |ISBN=3-486-25405-7 |Fundstelle= Abschnitt ''5.2 Das multinomiale Logit-Modell'', S. 162–173}}
* {{Literatur|Autor=Gerhard Tutz |Titel=Regression for Categorical Data |Verlag=Cambridge University Press |Ort=Cambridge |Datum=2012 |ISBN=978-1-107-00965-3 |Fundstelle=Kap. 8.2 ''The Multinomial Logit-Model'', S. 210–214}}

== Weblinks ==
* [https://kenbenoit.net/assets/courses/ME104/ME104_Day8_CatOrd.pdf Multinomial and Ordinal Logistic Regression ME104: Linear Regression Analysis Kenneth Benoit] (PDF; 466 kB)
* [https://data.princeton.edu/wws509/notes/c6.pdf Chapter 6 Multinomial Response Models]

== Einzelnachweise ==
<references />

[[Kategorie:Regressionsmodell]]
[[Kategorie:Quantitative Sozialforschung]]

Multinomiale logistische Regression - Versionsgeschichte

imported>ⵓ: Vorlage {{rp}} mit S. ersetzt Vorlage {{rp}} mit S. ersetzt/ →