imported>Simonthewriter01: /* growthexperiments-addlink-summary-summary:2|1|0 */

2024-12-21T13:28:02Z

growthexperiments-addlink-summary-summary:2|1|0

Neue Seite

In der '''semidefiniten Programmierung''' ('''SDP''', auch '''semidefinite Optimierung''') werden [[Optimierung (Mathematik)|Optimierungsprobleme]] untersucht, deren Variablen keine Vektoren, sondern [[Symmetrische Matrix|symmetrische Matrizen]] sind. Als Nebenbedingung wird verlangt, dass diese Matrizen positiv (oder negativ) [[Definitheit|semidefinit]] sind, woraus sich der Name der Problemstellung ergibt.

Anwendungen gibt es auf dem Gebiet der [[Approximationstheorie]], der [[Kontrolltheorie]], der [[Kombinatorische Optimierung|kombinatorischen Optimierung]], der [[Optimal Experimental Design|optimalen Versuchsplanung]] und in der Technik.

== Problemformulierung ==
Gegeben sei der reelle [[Vektorraum]] der reellen, symmetrischen <math> n \times n </math> Matrizen <math> S^n </math> versehen mit dem [[Frobenius-Skalarprodukt]]
:<math>\langle A, B \rangle_F = \sum_{i=1}^n \sum_{j=1}^n a_{ij} b_{ij}=\operatorname{tr}(A^T B)=\operatorname{tr}(A B^T)</math>.

Hierbei ist <math> \operatorname{tr} </math> die [[Spur (Mathematik)|Spur]] einer Matrix.

Des Weiteren sei <math> S^n_+ </math> der [[Kegel (Lineare Algebra)|Kegel]] der [[Definitheit|symmetrischen, positiv semidefiniten Matrizen]] und <math> \preccurlyeq_{S^n_+} </math> die durch diesen Kegel definierte [[verallgemeinerte Ungleichung]], die sogenannte [[Loewner-Halbordnung]].

=== Normalform ===
Das Optimierungsproblem
:<math> \begin{align}
\text{Minimiere } & s(X)=\langle{C},{X}\rangle_F &\\
\text{unter den Nebenbedingungen } & X \succcurlyeq_{S^n_+} 0 &\, \text{(positiv semidefinitheit)}\\
& \langle{A_i},{X}\rangle_F=b_i & \, \text{ für } i=1, \dots, m
\end{align} </math>
mit <math> C,X,A_i \in S^n </math> ist ein '''lineares semidefinites Programm''' oder einfach '''semidefinites Programm''' (kurz SDP) in Normalform. Gesucht wird also eine reelle, symmetrische Matrix <math>X </math>, die positiv semidefinit ist, deren Skalarprodukt mit vorgegebenen Matrizen einen bestimmten Wert annimmt und die maximal bezüglich des Frobenius-Skalarprodukts ist. Manchmal werden auch die <math> m </math> Gleichungsnebenbedingungen zusammengefasst durch eine Lineare Funktion <math> L(X): S^n \mapsto \mathbb{R}^m </math>, die durch
:<math> L(X):=
\begin{pmatrix}
\langle{A_1},{X}\rangle_F \\
\vdots \\
\langle{A_m},{X}\rangle_F
\end{pmatrix}
</math>

definiert ist. Dann lauten die Ungleichungsnebenbedingungen <math> L(X)=b </math> mit <math> b \in \mathbb{R}^m </math>.

=== Ungleichungsform ===
Analog zu linearen Optimierungsproblemen existiert auch die Ungleichungsform eines SDPs:
:<math> \begin{align}
\text{Minimiere } & s(x)=c^Tx \\
\text{unter den Nebenbedingungen } & x_1A_1+ \dots + x_mA_m \preccurlyeq_{S^n_+} B
\end{align} </math>

wobei <math> x,c \in \mathbb{R}^m </math> und <math> A_i,B \in S^n </math> sind. Gelegentlich wird die Ungleichungsform auch geschrieben als
:<math> \begin{align}
\text{Minimiere } & s(x)=c^Tx \\
\text{unter den Nebenbedingungen } & x_1A_1+ \dots + x_mA_m +S= B \\
& S \succcurlyeq_{S^n_+} 0
\end{align} </math>
Hierbei entspricht <math> S </math> der Einführung einer [[Schlupfvariable]]. Diese Form wird gerne gewählt, um Analogien zu den linearen Programmen klarzumachen. Auch hier wird gelegentlich eine lineare Funktion <math> L^*(x): \mathbb{R}^m \mapsto S^n </math> definiert durch
:<math> L^*(x)=x_1A_1+ \dots + x_mA_m </math>,

um die Notation zu vereinfachen und spätere Dualitätsaussagen klarer zu machen.

=== Ohne verallgemeinerte Ungleichungen ===
Formuliert man SDP ohne verallgemeinerte Ungleichungen, so werden die Bedingungen <math> X \succcurlyeq_{S^n_+} 0 </math> (Normalform) und <math> S \succcurlyeq_{S^n_+} 0 </math> (Ungleichungsform mit Schlupfvariable) meist ausgeschrieben als „<math> X </math> (bzw- <math> S </math>) ist positiv semidefinit“.

=== Nichtlineare semidefinite Programme ===
Gelegentlich werden auch nichtlineare semidefinite Programme betrachtet, diese haben dann entweder keine lineare Zielfunktion mehr oder nichtlineare Restriktionen.

== Klassifikation und Spezialfälle ==
=== Als konvexe Optimierungsprobleme ===
Semidefinite Programme sind immer [[Konvexe Optimierung|konvexe Optimierungsprobleme]]. Dies folgt daraus, dass alle Gleichungsrestriktionen immer affin-linear sind und alle Ungleichungsrestriktionen (unter Verwendung von verallgemeinerten Ungleichungen) immer affin-linear sind und damit auch immer [[K-konvexe Funktion]]en sind. Damit ist die Restriktionsmenge konvex. Da außerdem die Zielfunktion immer linear ist, handelt es sich immer um ein (abstraktes oder verallgemeinertes) konvexes Problem, unabhängig ob es als Minimierungsproblem oder als Maximierungsproblem formuliert ist.

=== Als konisches Programm ===
Semidefinite Programme sind [[Konisches Programm|konische Programme]] auf dem Vektorraum der symmetrischen reellen Matrizen versehen mit dem Frobenius-Skalarprodukt und unter Verwendung des Kegels der positiv semidefiniten Matrizen. Der lineare Unterraum des <math> S^n </math> wird in der Normalform durch den Kern der Abbildung <math> L: S^n \mapsto \mathbb{R}^m </math>, also durch die [[Lösungsmenge]] der Gleichung <math> L(X)=0 </math>, beschreiben. In der Ungleichungsform mit Schlupfvariable wird der Unterraum durch das Bild der Abbildung <math> L^*: \mathbb{R}^m \mapsto S^n </math> beschrieben.

=== Spezialfall lineare Programme ===
Ein Spezialfall eines semidefiniten Programmes ist ein [[Lineare Optimierung|lineares Programm]]. Dazu ersetzt man alle auftretenden Matrizen durch Diagonalmatrizen. Dadurch reduziert sich die Anforderung, dass <math> X </math> positiv semidefinit sein soll, zu <math> x_i\geq 0 </math>, das Frobenius-Skalarprodukt geht zum [[Standardskalarprodukt]] über und damit werden die Gleichungsrestriktionen zu einem linearen Gleichungssystem.

== Beispiel ==
Will man eine symmetrische Matrix finden, für die die Summe der k größten [[Eigenwert]]e so klein wie möglich ist, kann man das als Problem der semidefiniten Programmierung formulieren. Dabei minimiert man als Zielfunktion die Variable t, von der man in einer Nebenbedingung fordert, dass sie größer oder gleich der Summe der k größten Eigenwerte von X ist. Diese Nebenbedingung ist sehr schwierig zu handhaben, weil es keine leicht zu berechnende Funktion gibt, die zu einer Matrix die Eigenwerte angibt, schon gar nicht in einer sortierten Form. Allerdings kann man die Nebenbedingung äquivalent durch die folgenden drei Bedingungen ausdrücken:<ref>Florian Jarre, Josef Stoer: ''Optimierung.'' Springer, Berlin 2004, S. 419.</ref>
#<math>t-ks-\mathrm{tr}(Z)\geq 0</math>
#<math>Z\succeq 0</math>
#<math>Z-X+sE \succeq 0</math>.
Dabei ist E die [[Einheitsmatrix]], t und s sind reelle Variablen, X und Z sind Matrixvariablen. Diese Bedingungen sind mathematisch leichter zu behandeln, obwohl sie auf den ersten Blick schwieriger aussehen. Alle lassen sich einfach berechnen, da sie linear in den Variablen sind. Auch die Berechnung der Spur ist einfach. Für die Überprüfung auf positive Semidefinitheit für die zweite und dritte Bedingung gibt es spezielle Verfahren, die dann zur Lösung des Problems herangezogen werden.

== Dualität ==
=== Lagrange-Dualität ===
Ist ein SDP in Normalform gegeben durch
:<math> \begin{align}
\text{Minimiere } & s(X)=\langle{C},{X}\rangle_F &\\
\text{unter den Nebenbedingungen } & X \succcurlyeq_{S^n_+} 0 &\, \text{(positive Semidefinitheit)}\\
& \langle{A_i},{X}\rangle_F=b_i & \, \text{für } i=1, \dots, m
\end{align} </math>,

so lässt sich das duale Problem bezüglich der [[Lagrange-Dualität]] wie folgt formulieren. Man formuliert die Gleichungsnebenbedingungen um zu <math> -\langle{A_i},{X}\rangle_F+b_i=0 </math>. Damit erhält man als Lagrange-Funktion
:<math> L(X,\Lambda, \mu)=\langle{C},{X}\rangle_F + \langle{-X},{\Lambda}\rangle_F +\sum_{i=1}^m \mu_i(-\langle{A_i},{X}\rangle_F+b_i)</math>.
und unter Ausnutzung der [[Selbstdualer Kegel|Selbstdualität]] des semidefiniten Kegels das duale Problem
:<math> \begin{align}
\text{Maximiere } & \mu^Tb \\
\text{unter den Nebenbedingungen } & \mu_1A_1+ \dots + \mu_mA_m - \Lambda = -C \\
& \Lambda \succcurlyeq_{S^n_+} 0
\end{align} </math>.

<math> \Lambda </math> fungiert hier als Schlupfvariable. Dies ist ein SDP in Ungleichungsform. Für das genaue Vorgehen siehe [[Konisches Programm#Lagrange-Dualität|Lagrange-Dualität konischer Programme]].

Analog zu den konischen Programmen erhält man auch als duales Problem eines SDPs in Ungleichungsform
:<math> \begin{align}
\text{Minimiere } & s(x)=c^Tx \\
\text{unter den Nebenbedingungen } & x_1A_1+ \dots + x_mA_m \preccurlyeq_{S^n_+} B
\end{align} </math>

das SDP in Normalform
:<math>
\begin{align}
\text{Maximiere } & s(\Lambda)=-\langle{\Lambda},{B}\rangle_F & \\
\text{unter den Nebenbedingungen } & \Lambda \succcurlyeq_{S^n_+} & \\
& \langle{\Lambda},{A_i}\rangle_F=-c_i & i=1, \dots, m
\end{align} </math>,

Somit sind die SDPs abgeschlossen bezüglich der Lagrange-Dualität und das duale Problem des dualen Problems ist stets wieder das primale Problem. Außerdem gilt stets die [[schwache Dualität]], also dass der Zielfunktionswert des dualen Problems stets kleiner ist als der Zielfunktionswert des primalen Problems. Ist außerdem die [[Slater-Bedingung]] erfüllt (siehe unten), so gilt die [[starke Dualität]], die Optimalwerte des primalen und des dualen Problems stimmen also überein.

=== Dualität konischer Programme ===
Fasst man SDPs als abstrakte konische Programme auf, so lässt sich der lineare Unterraum <math> \mathcal{L} </math> durch die oben beschriebene lineare Funktion <math> L: S^n \mapsto \mathbb{R}^m </math> beschreiben. Er ist dann genau die Lösungsmenge der Gleichung <math> L(X)=0 </math>. Somit lässt sich das primale konische Problem als SDP in Normalform schreiben.
:<math> \begin{align}
\text{Minimiere } & s(X)=\langle{C},{X}\rangle_F \\
\text{unter den Nebenbedingungen } & X \succcurlyeq_{S^n_+} 0 \\
& L(X)-b=0
\end{align} </math>

Hierbei sei <math> L(B)=b </math>. Der für das duale Problem nötige Orthogonalraum wird dann durch den zu <math> L </math> [[Adjungierter Operator|adjungierten Operator]] <math> L^*: \mathbb{R}^m \mapsto S^n </math>, der durch <math> L^*(x)= x_1A_1+ \dots + x_mA_m</math> definiert ist, beschrieben. Somit lautet das konische duale Problem:
:<math> \begin{align}
\text{Minimiere } & s(Y)=\langle{B},{Y}\rangle_F \\
\text{unter den Nebenbedingungen } & Y \succcurlyeq_{S^n_+} 0 \\
& Y=L^*(y)+C, \, y \in \mathbb{R}^m
\end{align} </math>.

Das duale Problem ist dann also ein SDP in Ungleichungsform mit Schlupfvariable. Es gilt dann stets für alle zulässigen <math> X,Y </math>
:<math> \langle{C},{X}\rangle_F + \langle{B},{Y}\rangle_F\geq \langle{B},{C}\rangle_F </math>

Ist die Slater-Bedingung erfüllt (siehe unten) und das primale Problem hat einen endlichen Optimalwert <math> p^* </math>, so hat das duale Problem eine Optimallösung <math> Y^* </math>, und es gilt
:<math> p^*+\langle{B},{Y^*}\rangle_F=\langle{B},{C}\rangle_F </math>.

=== Slater-Bedingung ===
Die [[Slater-Bedingung]] ist eine Voraussetzung an das primale Problem, die garantiert, dass [[starke Dualität]] gilt. Sie fordert, dass das Problem einen Punkt besitzt, der die Gleichungsnebenbedingungen erfüllt, und alle Ungleichungsnebenbedingungen strikt erfüllt, dass also <math> f(x) \prec_K 0</math> bzw. <math> f(x) \succ_K 0</math> für mindestens einen Punkt <math> x </math> in allen Ungleichungsnebenbedingungen des Problems gleichzeitig gilt. Da aber <math> X \succ_{S^n_+}0 </math> genau dann gilt, wenn <math> X \in \operatorname{Int}(S^n_+) </math> ist, was wiederum äquivalent dazu ist, dass <math> X </math> eine positiv definite Matrix ist, ist die Slater-Bedingung für SDPs bereits erfüllt, wenn es eine positiv definite Matrix gibt, welche die Gleichungsnebenbedingungen erfüllt.

== Literatur ==
* Florian Jarre, Josef Stoer: ''Optimierung.'' Springer, Berlin 2004, ISBN 3-540-43575-1.
* Johannes Jahn: ''Introduction to the Theory of Nonlinear Optimization.'' 3. Auflage. Springer, Berlin 2007, ISBN 978-3-540-49378-5.

== Einzelnachweise ==
<references />

== Weblinks ==
* {{cite web
| url= https://www-user.tu-chemnitz.de/~helmberg/semidef.html
| title= Seite mit vielen weiterführenden Links
| accessdate= 19. Juli 2008
| last= Helmberg
| first= Christoph
| language= englisch}}

[[Kategorie:Kombinatorische Optimierung]]
[[Kategorie:Normalform]]

Semidefinite Programmierung - Versionsgeschichte

imported>Simonthewriter01: /* growthexperiments-addlink-summary-summary:2|1|0 */