imported>Acky69: roter Faden

2024-11-13T09:48:41Z

roter Faden

Neue Seite

'''Quickprop''' ist ein [[Iteration|iteratives]] Verfahren zur Bestimmung des [[Extremwert|Minimum]]s der [[Fehlerfunktion]] eines [[Künstliches neuronales Netz|künstlichen neuronalen Netzes]], das sich an das [[Newton-Verfahren]] anlehnt.

Der [[Algorithmus]] wird manchmal der Gruppe ''Lernverfahren zweiter Ordnung'' zugerechnet, da über eine [[Quadratische Funktion|quadratisch]]e [[Approximation]] aus dem vorhergehenden und dem aktuellen [[Gradient (Mathematik)|Gradient]]en auf das Minimum der Fehlerfunktion geschlossen wird.

Unter der Annahme, dass die Fehlerfunktion [[Umgebung (Mathematik)|lokal]] näherungsweise quadratisch ist, versucht man sie mit Hilfe einer nach oben geöffneten [[Parabel (Mathematik)|Parabel]] zu beschreiben. Das gesuchte Minimum liegt im [[Scheitelpunkt|Scheitel]] der Parabel.

Der k-te Approximationsschritt ist dabei gegeben durch:

:<math>\Delta^{(k)} \, w_{ij} = \Delta^{(k-1)} \, w_{ij} \left ( \frac{\nabla_{ij} \, E^{(k)}}{\nabla_{ij} \, E^{(k-1)} - \nabla_{ij} \, E^{(k)}} \right) </math>

Dabei ist
* <math> w_{ij} </math> das [[Gewichtung|Gewicht]] des Neurons j für den Eingang i
* E die Summe der Fehler.

Das Verfahren benötigt ausschließlich lokale Informationen des [[Künstliches Neuron|künstlichen Neurons]], auf das es angewendet werden soll.

Der Quickprop-Algorithmus [[Grenzwert (Folge)|konvergiert]] im Allgemeinen schneller als [[Backpropagation|Fehlerrückführung]] (engl. ''backpropagation''), jedoch kann sich das Netzwerk in der Lernphase aufgrund zu großer Schrittweiten [[chaotisch]] verhalten.

== Literatur ==
* [[Scott E. Fahlman]]: ''[http://www.cs.cmu.edu/afs/cs.cmu.edu/user/sef/www/publications/qp-tr.ps An Empirical Study of Learning Speed in Back-Propagation Networks]'', September 1988

[[Kategorie:Neuroinformatik]]

Quickprop - Versionsgeschichte

imported>Acky69: roter Faden