Quelltext der Seite Conditional Random Field

Ein '''Conditional Random Field (CRF)''' ist ein Typ von ungerichtetem probabilistischem Modell, der im [[Maschinelles Lernen|maschinellen Lernen]] (einem Teilgebiet der [[künstliche Intelligenz|künstlichen Intelligenz]]) eingesetzt wird. Häufig wird mit dem Begriff auf eine spezielle Form mit linearer Struktur verwiesen, das ''Linear-Chain Conditional Random Field''. Dieses wird typischerweise zur Segmentierung von Sequenzen verwendet. Das bedeutet, das CRF erhält eine Sequenz <math>X</math> als Eingabe und gibt eine gleich lange Sequenz <math>Y</math> aus. Im Unterschied zu [[Hidden Markov Model|Hidden-Markov-Modellen]] (HMMs; ein anderes, jedoch gerichtetes Modell für sequentielle Daten) kann ein CRF an jeder Stelle auf die komplette Information der Eingabesequenz zugreifen, wohingegen ein HMM nur die aktuelle Eingabe sieht. Hierdurch können komplexe Merkmalsmengen verwendet werden.

== Training ==
Wie alle Modelle des [[Maschinelles Lernen|maschinellen Lernens]] müssen CRFs ''trainiert'' werden, d.&thinsp;h., ihre Parameter müssen aus [[Daten]] abgeschätzt werden. Hierfür existieren verschiedene Lernverfahren, etwa das [[Gradientenverfahren]] oder das [[Quasi-Newton-Verfahren]]. Dabei werden einige Sequenzen vorgegeben, von denen sowohl die Eingabe als auch die gewünschte Ausgabe bekannt ist (es handelt sich also um [[überwachtes Lernen]]). Das Lernverfahren versucht dann die Parameter im CRF so anzupassen, dass für möglichst viele Sequenzen in den Trainingsdaten die richtige Ausgabesequenz vorhergesagt wird.

== Anwendungen ==
CRFs wurden erfolgreich auf verschiedene Probleme angewandt, wie zum Beispiel:
* [[Informationsextraktion]] von natürlichsprachigen Texten
* [[Morphologische Analyse (Computerlinguistik)|Morphologische Analyse]]
* Klassifikation von [[Protein]]en
* Vorhersage der [[Sekundärstruktur]] von [[Desoxyribonukleinsäure|DNA]] und Proteinen
* Bilderkennung und Bildrestauration

== Siehe auch ==
* [[Markov Random Field]]

== Literatur ==

* {{Literatur
   |Autor=J. Lafferty, A. McCallum, F. Pereira
   |Titel=Conditional random fields: Probabilistic models for segmenting and labeling sequence data
   |Sammelwerk=Proc. 18th International Conf. on Machine Learning
   |Verlag=Morgan Kaufmann
   |Ort=San Francisco, CA
   |Datum=2001
   |Seiten=282–289}}
* {{Literatur
   |Autor=A. McCallum
   |Titel=Efficiently inducing features of conditional random fields
   |Sammelwerk=Proc. 19th Conference on Uncertainty in Artificial Intelligence
   |Datum=2003}}
* {{Literatur
   |Autor=F. Sha, F. Pereira,
   |Titel=Shallow parsing with conditional random fields
   |Verlag=University of Pennsylvania
   |Datum=2003
   |Kommentar=Technical Report MS-CIS-02-35}}
* {{Literatur
   |Autor=H. M. Wallach
   |Titel=Conditional random fields: An introduction
   |Verlag=University of Pennsylvania
   |Datum=2004
   |Kommentar=Technical Report MS-CIS-04-21}}
* {{Literatur
   |Autor=C. Sutton, A. McCallum
   |Hrsg=Lise Getoor, Ben Taskar
   |Titel=An Introduction to Conditional Random Fields for Relational Learning
   |Sammelwerk=Introduction to Statistical Relational Learning
   |Verlag=MIT Press
   |Datum=2006}}
* {{Literatur
   |Autor=R. Klinger, K. Tomanek
   |Titel=Classical Probabilistic Models and Conditional Random Fields
   |Verlag=Dortmund University of Technology
   |Datum=2007-12
   |ISSN=1864-4503
   |Kommentar=Algorithm Engineering Report TR07-2-013
   |Online=https://ls11-www.cs.uni-dortmund.de/_media/techreports/tr07-13.pdf
   |Format=PDF
   |KBytes=}}
* {{Literatur
   |Autor=T. Kudo, K. Yamamoto, Y. Matsumoto
   |Titel=Applying Conditional Random Fields to Japanese Morphological Analysis
   |Datum=2004
   |Online=http://chasen.org/~taku/publications/emnlp2004-2.pdf
   |Format=PDF
   |KBytes=}}

[[Kategorie:Stochastik]]
[[Kategorie:Computerlinguistik]]
[[Kategorie:Maschinelles Lernen]]