Metropolis-Algorithmus
Der Metropolis-Algorithmus ist ein Markov-Chain-Monte-Carlo-Verfahren (MCMC) zur Erzeugung von Zuständen eines Systems entsprechend der Boltzmann-Verteilung. Der davon abgeleitete, allgemeinere Metropolis-Hastings-Algorithmus<ref name=":0">{{#invoke:Vorlage:Literatur|f}}</ref> ermöglicht es, Folgen von Zufallsvariablen, genauer Markow-Ketten, zu simulieren, die eine gewünschte Verteilung als stationäre Verteilung besitzen, insbesondere in vielen Fällen, bei denen die Verteilungen der Zufallsvariablen nicht direkt simuliert werden können.
Metropolis-Algorithmus
Der Metropolis-Algorithmus wurde 1953 von Nicholas Metropolis, Marshall Rosenbluth, Edward Teller, Augusta H. Teller, Arianna W. Rosenbluth publiziert<ref>{{#invoke:Vorlage:Literatur|f}}</ref> (zur Geschichte siehe auch Monte-Carlo-Simulation). Er wird dazu genutzt, eine Markow-Kette und damit die Zustände eines Systems entsprechend der Boltzmann-Verteilung zu erzeugen. Dabei hängt der neue Zustand des Systems <math>x_{i+1}</math> nur vom vorherigen Zustand <math>x_i</math> ab.
Im Folgenden wird der Algorithmus für den Fall beschrieben, dass das System von einem mehrdimensionalen Ort <math>\vec x</math> abhängt. <math>\vec x</math> sei kontinuierlich und der aktuelle Ort nach <math>i</math> Iterationen wird mit <math>\vec x_i</math> bezeichnet. Der Metropolis-Algorithmus ergibt sich dann durch Wiederholung der folgenden Schritte:
- Ein neuer Ort <math>\vec y = \vec x_i + r\cdot \vec q</math> wird ausgewählt, wobei <math>\vec q</math> ein Zufallsvektor aus Komponenten zwischen −1 und +1 und r ein fest gewählter Suchradius ist, das heißt, der neue Ortsvektor wird als Zufallsvektor in einer festen Umgebung von <math>\vec x_i</math> gewählt, wobei die verschiedenen Komponenten der räumlichen Dimensionen nicht notwendigerweise gleich sein müssen.
- Die Energie-Differenz <math>\Delta E := E \left( \vec y \right) - E \left( \vec x_i \right)</math> wird berechnet und die neue Konfiguration mit der Wahrscheinlichkeit <math>\textstyle p_{\mathrm{A}} = \min \left ( 1, \exp \left( -\frac {\Delta E} {kT} \right) \right)</math> akzeptiert, wobei <math>T</math> für die Temperatur des Systems und <math>k</math> für die Boltzmann-Konstante steht.
Dies bedeutet:- Ist <math>\Delta E \le 0\,</math>, die neue Position also energetisch gleichwertig oder günstiger, wird <math>\vec y</math> in jedem Fall als neuer aktueller Ort akzeptiert, <math>\vec x_{i+1}=\vec y</math>.
- Ist <math>\Delta E > 0\,</math>, die neue Position also energetisch ungünstiger, wird <math>\vec y</math> dagegen nur mit der Wahrscheinlichkeit <math>p_{\mathrm{A}}</math> als neuer aktueller Ort akzeptiert, wozu man praktisch eine Zufallszahl q zwischen 0 und 1 bestimmt und anschließend mit <math>p_{\mathrm{A}}</math> vergleicht: Ist q kleiner als <math>p_{\mathrm{A}}</math>, wird <math>\vec y</math> als neuer aktueller Ort akzeptiert, <math>\vec x_{i+1}=\vec y,</math> andernfalls nicht, <math>\vec x_{i+1}=\vec x_i</math>.
Das oben beschriebene Verfahren lässt sich einfach auch auf andere Fälle wie beispielsweise diskrete Zustände übertragen. Für Systeme aus vielen wechselwirkenden Teilchen wird der Metropolis-Algorithmus dabei zunächst lokal für ein einzelnes Teilchen angewandt und anschließend – entweder nacheinander oder zufällig – auf alle Teilchen.
Eigenschaften
Autokorrelation
Kleine Werte für die Vorschlagsänderungen <math>|r|</math> führen dabei zu großen Akzeptanzraten, haben jedoch den Nachteil hoher Autokorrelationszeiten
- <math>\tau = \sum_{i=0}^{\infty} \Gamma (i) = \sum_{i=0}^{\infty} \left \langle \left ( A_0 - \langle A \rangle \right ) \left ( A_i - \langle A \rangle \right ) \right \rangle</math>
Große Werte von <math>|r|</math> dagegen verkürzen zwar die Autokorrelationszeit, haben dafür aber nun den Nachteil einer geringeren Akzeptanzrate, so dass in der Praxis stets ein Mittelweg gesucht werden muss.
Burn-In Phase
Da die Markovkette an einem beliebigen Punkt startet, welcher eventuell sehr unwahrscheinlich ist, sind die anfänglich vorgeschlagenen Zustände aufgrund der Autokorrelation immer noch unwahrscheinlich. Erst nach einer gewissen Zahl an akzeptierten Vorschlägen erreicht das Verfahren Zustände, welche „repräsentative“ Stichproben aus der stationären Verteilung sind. Daher werden anfänglich gezogene Stichproben verbrannt, sie stammen aus der „Burn-In Phase“. Zur Diagnostik der Konvergenz von Markovketten, kann z. B. die Gelman-Rubin Diagnostik durchgeführt werden, bei der mehrere Markov-Ketten simuliert werden und durch Zusammenfassungsstatiken überprüft wird, ob diese Ketten zu ähnlichen Werten konvergiert sind.<ref>{{#invoke:Vorlage:Literatur|f}}</ref> Während der Burn-In Phase unterscheiden sich die simulierten Markov-Ketten typischerweise deutlich in den Zusammenfassungsstatistiken.
Metropolis-Hastings-Algorithmus
W. Keith Hastings generalisierte 1970 das Verfahren.<ref name=":0" /> Der Metropolis-Hastings-Algorithmus kann Zustände für eine beliebige Wahrscheinlichkeitsverteilung <math>W(\vec x)</math> erzeugen. Voraussetzung ist lediglich, dass die Dichte an jedem Ort <math>\vec x</math> berechnet werden kann. Der Algorithmus benutzt eine Vorschlagsdichte <math>P(\vec y\mid \vec x)</math>, die vom derzeitigen Ort <math>\vec x</math> und möglichem nächsten Ort <math>\vec y</math> abhängt. Beim Metropolis-Hastings-Algorithmus wird ein Vorschlag <math>\vec y</math> anhand der Vorschlagsdichte zufällig erzeugt und mit der Wahrscheinlichkeit <math> p_{\mathrm{A}} = \min \left ( 1, \frac{W(\vec y)P(\vec x\mid \vec y)}{W(\vec x)P(\vec y\mid \vec x)} \right) </math> akzeptiert.
Für eine Vorschlagsdichte, die symmetrisch ist (<math>P(\vec y\mid \vec x)=P(\vec x\mid \vec y)</math>), sowie eine Boltzmann-Verteilung als Wahrscheinlichkeitsverteilung <math> W</math> ergibt sich hieraus der ursprüngliche Metropolis-Algorithmus.
Anwendungen
Monte-Carlo-Simulation
{{#if: Monte-Carlo-Simulation|{{#ifexist:Monte-Carlo-Simulation|
|{{#if: |{{#ifexist:{{{2}}}|
|{{#if: |{{#ifexist:{{{3}}}|
|}}|}}|}}|}}|}}|Einbindungsfehler: Die Vorlage Hauptartikel benötigt immer mindestens ein Argument.}}
Bei Monte-Carlo-Simulationen werden Konfigurationen mittels des Metropolis-Algorithmus erzeugt und Mittelwerte/Erwartungswerte physikalisch relevanter Größen berechnet, beispielsweise der Erwartungswert des Drucks oder der Dichte:
- <math> \left\langle A \right\rangle = Z^{-1} \int [\mathrm{d} x] e^{-\beta E(x)} \, A(x) </math>
mit
- <math>Z = \int [\mathrm{d} x] e^{-\beta E(x)}</math>
- <math>\beta = (k T)^{-1}</math>
Dazu werden von den Iterationsschritten des Metropolis-Algorithmus zunächst so viele ausgeführt, bis sich das System hinreichend nah an das thermische Gleichgewicht angenähert hat, d. h. bis die Wahrscheinlichkeit der einzelnen Konfigurationen der Boltzmann-Verteilung entspricht. Befindet sich das System im thermischen Gleichgewicht, so entspricht die Wahrscheinlichkeitsverteilung <math>W(x)</math> der Boltzmann-Verteilung, d. h. die Konfigurationen werden mit der Wahrscheinlichkeit <math>W(x) = \frac{1}{Z} e^{- \beta E(x)}</math> erzeugt (Importance Sampling) und es muss lediglich über jeden Messwert, bzw. Messwerte in konstantem Abstand, gemittelt werden: <math> \left\langle A \right\rangle = \lim_{N \to \infty } \frac{1}{N} \sum_{i=1}^N A(x_i) </math>.
Der Metropolis-Algorithmus erzeugt Systeme im kanonischen Zustand, d. h. mit konstanter Temperatur. Um mikrokanonische Zustände zu erzeugen, können Molekulardynamik-Algorithmen verwendet werden.
In der Originalarbeit von Nicholas Metropolis et al. wurde der Algorithmus für die Monte-Carlo-Simulation eines zweidimensionalen Harte-Scheiben-Modells verwendet. Der Algorithmus wurde später für eine Vielzahl unterschiedlichster Monte-Carlo-Simulationen in Bereichen wie z. B. bei der Thermodynamik bzw. der Statistischen Physik, Festkörperphysik, Quantenelektrodynamik oder Quantenchromodynamik eingesetzt. Dabei muss der Algorithmus gegebenenfalls angepasst werden; beispielsweise muss man die Energie durch den Hamiltonoperator oder die Wirkung ersetzen.
Der Metropolis-Algorithmus ist leicht zu implementieren, jedoch nicht immer der effizienteste Algorithmus. Alternativ können andere lokale oder nicht-lokale Verfahren Verwendung finden.
Optimierungsverfahren
Der Metropolis-Algorithmus kann auch als stochastisches Optimierungsverfahren zum Finden eines globalen Minimums einer Funktion verwendet werden. Hierzu wird mit einer hohen Temperatur begonnen, damit möglichst ein großes Gebiet der Wertelandschaft besucht wird. Anschließend wird die Temperatur langsam abgesenkt, sodass man sich mit immer höherer Wahrscheinlichkeit einem Minimum nähert. Ein solcher Metropolis-Algorithmus mit von der (Simulations-)Zeit abhängiger Temperatur heißt simulierte Abkühlung (simulated annealing). Für bestimmte Formen der simulierten Abkühlung konnte bewiesen werden, dass sie das globale Minimum einer Wertelandschaft finden.
Das Verfahren ähnelt dem Bergsteigeralgorithmus (hill climbing), akzeptiert jedoch im Gegensatz zu diesem auch Schritte weg vom nächsten Minimum, so dass das „Hängen bleiben“ in lokalen Minima vermieden wird, die noch nicht das absolute Minimum ergeben. Der Metropolis-Algorithmus überwindet so kleine Hügel, bevor weiter in Richtung Tal gegangen wird, da der Anstieg in Richtung Hügel klein ist und somit die Akzeptanzwahrscheinlichkeit relativ groß ist.
Bayessches Lernen
{{#if: Bayessches Lernen|{{#ifexist:Bayessches Lernen|
|{{#if: |{{#ifexist:{{{2}}}|
|{{#if: |{{#ifexist:{{{3}}}|
|}}|}}|}}|}}|}}|Einbindungsfehler: Die Vorlage Hauptartikel benötigt immer mindestens ein Argument.}}
Zum Ziehen von Stichproben (engl. Sample) aus der Posterior-Verteilung wird folgende Akzeptanzwahrscheinlichkeit verwendet, um von einem Zustand <math>\theta_i</math> zu einem vorgeschlagenen Zustand <math>\theta^*</math> überzugehen: <math>P_{acc}(\theta_i \to \theta^*)=\min\left(1, \frac{\mathcal{L}(y|\theta^*)P(\theta^*)}{\mathcal{L}(y|\theta_i)P(\theta_i)}\frac{Q(\theta_i|\theta^*)}{Q(\theta^*|\theta_i)}\right),</math> wobei <math>\mathcal{L}</math> die Likelihood der Daten ist, <math>P(\theta)</math> die Prior-Wahrscheinlichkeitsdichte und <math>Q</math> die (bedingte) Vorschlagsdichte.
Literatur
{{#invoke:Vorlage:Siehe auch|f}}
Weblinks
|X|x= |0|-= |S|s= – Sammlung von Bildern |1|= – Sammlung von Bildern{{#if:
| {{#switch: {{#invoke:TemplUtl|faculty|1}}/{{#invoke:TemplUtl|faculty|1}}
|1/= und Videos
|1/1=, Videos und Audiodateien
|/1= und Audiodateien}}
| , Videos und Audiodateien
}}
|#default= – }}{{#if: Metropolis–Hastings algorithm
| {{#ifeq: {{#invoke:Str|left|metropolis–hastings algorithm|9}}
| category:
| FEHLER: Ohne Category: angeben!}}}}Vorlage:Wikidata-Registrierung
Einzelnachweise
<references />