Pivotverfahren
# Pivotverfahren

Pivotverfahren (auch Basisaustauschverfahren) sind Algorithmen der mathematischen Optimierung, insbesondere der linearen Optimierung. Für ein vorgegebenes System linearer Gleichungen in nichtnegativen Variablen (im Wesentlichen dasselbe wie ein System linearer Ungleichungen) wird nach der bestmöglichen von vielen Alternativlösungen (einer sogenannten Optimallösung) gesucht und auf dieser Suche das Gleichungssystem Schritt für Schritt umgewandelt, ohne dabei die Lösungsmenge zu verändern. Wichtige Pivotverfahren sind die Simplex-Verfahren und die Criss-Cross-Verfahren.

Pivotverfahren spielen für die Behandlung von linearen Ungleichungen eine analoge und ähnlich wichtige Rolle wie das gaußsche Eliminationsverfahren für die Lösung linearer Gleichungssysteme in unbeschränkten Variablen. Hauptanwendungsgebiet der Pivotverfahren ist die lineare Optimierung: sie gehören zu den meistverwendeten Lösungsmethoden in der Unternehmensforschung, der Wirtschaftswissenschaft, dem Gütertransport und sie werden auch in vielen anderen Gebieten wie im Ingenieurbau (Strukturoptimierung), in der Statistik (Regressionsanalyse) und in der Spieltheorie zunehmend eingesetzt. Aufgaben mit zehntausenden Variablen und Ungleichungen sind an der Tagesordnung.

## Pivotansatz

### Problemstellung

Ein Pivotverfahren geht immer von einem besonders gearteten linearen Gleichungssystem aus, in dem alle Variablen, außer vielleicht einer, nichtnegative Werte annehmen sollen. Jedes System linearer Ungleichungen oder Gleichungen, und auch jede lineare Optimierungsaufgabe, lässt sich nämlich in folgende (englisch dictionary genannte) Buchform bringen:

    ${\begin{matrix}z&=&f&+&~~~~~d_{1}\,x_{1}&+&\cdots &+&~~~~~d_{n}\,x_{n}\\[3pt]x_{n+1}&=&b_{n+1}&+&G_{n+1,1}\,x_{1}&+&\cdots &+&G_{n+1,n}\,x_{n}\\\vdots &&\vdots &&\vdots &&&&\vdots \\x_{n+m}&=&b_{n+m}&+&G_{n+m,1}\,x_{1}&+&\cdots &+&G_{n+m,n}\,x_{n}\end{matrix}}$
    ${\begin{matrix}\max ~z\,,\quad x_{1}\geq 0,\;\ldots ,\;x_{n+m}\geq 0\end{matrix}}$

Hier sind $f,\;d_{j},\;b_{i},\;G_{i,j}$ reelle Zahlen (in der Praxis meist Bruchzahlen). Die obige Notation soll aussagen, dass eine Lösung in den Unbekannten $x_{1},\;\ldots ,\;x_{n+m},\;z$ gesucht wird, welche die entsprechenden Gleichungen und Ungleichungen erfüllt und dabei die sogenannte Zielvariable $z$ so groß wie möglich wählt.

       ( Bei der Verwandlung der Aufgabe in die obige Form werden die Ungleichungen des Systems keinesfalls weniger: sie bleiben in mindestens gleicher Anzahl weiter vorhanden und treten nun als nichtnegative Variablen auf. Eine übliche lineare Ungleichung wie beispielsweise
          $3x_{1}~+~4x_{2}~-~x_{3}~\leq ~5x_{1}~+~8$
       wird umgeformt in
          $x_{4}~=~8~+~2x_{1}~-~4x_{2}~+~x_{3}$
       mit $x_{4}\geq 0$ )

Mit Hilfe der Indexmengen

    $D=\{1,\ldots ,n\},\quad B=\{n+1,\ldots ,n+m\}$

lässt sich diese Aufgabe auch wie folgt in kompakter Form ausdrücken:

    ${\begin{matrix}&&z&=&f&+&\sum _{j\in D}\,d_{j}\,x_{j}\\[6pt]\forall ~i\in B&&x_{i}&=&b_{i}&+&\sum _{j\in D}\,G_{i,j}\,x_{j}\end{matrix}}$
    ${\begin{matrix}\max ~z\,,\quad \forall ~k\in D\cup B\quad x_{k}\geq 0\end{matrix}}$

In jedem Schritt eines Pivotverfahrens ist wie oben eine Teilmenge der Variablen als unabhängig hervorgehoben, während die restlichen Variablen, Basisvariablen genannt, als linear-affine Funktionen der unabhängigen Variablen ausgedrückt werden. In aufeinanderfolgenden Schritten wechselt immer eine der Variablen von unabhängig auf Basisvariable und eine zweite in die umgekehrte Richtung; solche Variablenpaare werden Pivots genannt.

### Optimumbedingungen

Falls im oben aufgestellten linearen Gleichungssystem die beiden folgenden Optimumbedingungen erfüllt sind,

* $b_{i}\geq 0$ für alle $i\in B$ (Zulässigkeit) und
* $d_{j}\leq 0$ für alle $j\in D$ (Zielbeschränkung),

dann kann man eine Lösung für die obige Aufgabe erhalten, indem man die unabhängigen Variablen auf die Werte $x_{1}=0,\ldots ,x_{n}=0$ setzt. Zum einen sind die Werte der freigelegten Variablen $x_{n+1}=b_{n+1},\ldots ,x_{n+m}=b_{n+m}$ dann nichtnegativ, wie gefordert. Zum anderen dürfen sonstige mögliche Lösungen nur unabhängige Variable mit ebenfalls nichtnegativen Werten enthalten, so dass für jede dieser Lösungen die Ungleichung $z\leq f$ gilt.

       ( Im folgenden Beispielsystem,
          ${\begin{matrix}z&=&~~~0&-~3x_{1}&+~~\mathbf {x_{2}} \\[2pt]x_{3}&=&~~~3&-~~x_{1}&-~~x_{2}\\[2pt]x_{4}&=&~~~8&+~2x_{1}&-~4x_{2}\\[2pt]x_{5}&=&-~\mathbf {1} &+~3x_{1}&+~~x_{2}\,,\end{matrix}}$
       werden die Optimumbedingungen an zwei Stellen verletzt, da $b_{5}=-1<0$ und $d_{2}=+1>0$ ist. Zum ersten würde die Versuchslösung $x_{1}=x_{2}=0$ den negativen Wert $x_{5}=-1$ enthalten, und zum zweiten könnte dessen Zielvariablenwert $z=-3x_{1}+x_{2}$ bei Lösungen mit $x_{2}>0$ unter Umständen erhöht werden. )

### Austausch der Basisvariablen

Falls die Optimumbedingungen nicht erfüllt sind, was in der Regel der Fall sein wird, lässt sich das obige lineare Gleichungssystem aber auch andersartig ausdrücken, indem man an Stelle von $\{x_{n+1},\ldots ,x_{n+m}\}$ eine andere, gleich große Teilmenge der $n+m$ Unbekannten auswählt und diese freilegt. Es sei $\pi (1),\ldots ,\pi (n+m)$ eine Umstellung der Indizes. Anhand folgender Aufteilung der Variablen,

    $D(\pi )=\{\pi (1),\ldots ,\pi (n)\},\quad B(\pi )=\{\pi (n+1),\ldots ,\pi (n+m)\},$

in neue unabhängige Variablen $x_{j}$ mit $j\in D(\pi )$ und neue Basisvariablen $x_{i}$ mit $i\in B(\pi )$, wird das Gleichungssystem nun umgewandelt zu

    ${\begin{matrix}&&z&=&f^{\pi }&+&\sum _{j\in D(\pi )}\,d_{j}^{\pi }\,x_{j}\\[6pt]\forall ~i\in B(\pi )&&x_{i}&=&b_{i}^{\pi }&+&\sum _{j\in D(\pi )}\,G_{i,j}^{\pi }\,x_{j}\end{matrix}}$
    ${\begin{matrix}\max ~z\,,\quad \forall ~k\in D\cup B\quad x_{k}\geq 0\,,\end{matrix}}$

wobei zu beachten ist, dass Einträge wie $G_{i,j}^{\pi }$ nur für Indexpaare mit $i\in B(\pi )$ und $j\in D(\pi )$ definiert sind. Die Einträge des so umgewandelten Gleichungssystems lassen sich nun erneut auf die Optimumbedingungen überprüfen,

* $b_{i}^{\pi }\geq 0$ für alle $i\in B(\pi )$ (Zulässigkeit) und
* $d_{j}^{\pi }\leq 0$ für alle $j\in D(\pi )$ (Zielbeschränkung),

was wiederum unter Umständen zu einer Lösung der Aufgabe führt.

Ein Standardergebnis der linearen Optimierung sagt aus, dass für jede lösbare Aufgabe ein Satz Basisvariablen existiert, der zu einer Lösung führt. Bei erfüllten Optimumbedingungen bilden die Basisvariablen eine sogenannte Optimalbasis des Systems.

### Pivots und Pivotelemente

Jedes nichtverschwindende $G_{r,s}^{\pi }\neq 0$ des obigen Gleichungssystems, dem Pivotsystem, nennt sich Pivotelement und erlaubt es, die unabhängige Variable $x_{s}$ an Stelle der Basisvariablen $x_{r}$ freizulegen, um so weiter nach einer Lösung zu suchen. Das ist die Vorgehensweise eines allgemeinen Pivotverfahrens, wobei aber nicht irgendwelche Pivotelemente gewählt werden, sondern nur erlaubte (admissible) Pivots $(x_{r},\,x_{s})$, die Folgendes erfüllen müssen:

* Entweder gilt gleichzeitig $b_{r}^{\pi }<0$ und $G_{r,s}^{\pi }>0$ (Zulässigkeitspivot),
* oder es gilt gleichzeitig $d_{s}^{\pi }>0$ und $G_{r,s}^{\pi }<0$ (Zielfortschrittspivot).

       ( Im obigen Beispielsystem,
          ${\begin{matrix}z&=&~~~0&-~3x_{1}&+~~~\mathbf {x_{2}} \\[2pt]x_{3}&=&~~~3&-~~x_{1}&-~~~{\underline {\mathbf {x_{2}} }}\\[2pt]x_{4}&=&~~~8&+~2x_{1}&-~{\underline {\mathbf {4x_{2}} }}\\[2pt]x_{5}&=&-~\mathbf {1} &+~{\underline {\mathbf {3x_{1}} }}&+~~~{\underline {\mathbf {x_{2}} }}\,,\end{matrix}}$
       sind wegen der Optimalitätsverletzung $b_{5}<0$ Pivotelement $G_{5,1}=+3>0$ mit Pivot $(x_{5},\,x_{1}),$ und Pivotelement $G_{5,2}=+1>0$ mit Pivot $(x_{5},\,x_{2})$ erlaubt. Wegen der Optimalitätsverletzung $d_{2}>0$ sind aber ebenfalls Pivotelement $G_{3,2}=-1<0$ mit Pivot $(x_{3},\,x_{2})$, und Pivotelement $G_{4,2}=-4<0$ mit Pivot $(x_{4},\,x_{2})$ erlaubt. )

Die Beschränkung auf erlaubte Pivots verhindert, dass derselbe Pivot zweimal hintereinander ausgewählt wird. Die Regeln, nach denen in jedem Schritt eines dieser erlaubten Pivotelemente ausgewählt wird, hängen vom jeweiligen Verfahren ab; ein Mindestanspruch ist dabei natürlich, dass das Verfahren nach endlich vielen Schritten anhält, was bei ungeeigneter Auswahl von erlaubten Pivots nicht der Fall ist. Fukuda & Terlaky haben 1999 bewiesen, dass für jede lösbare Aufgabe und für jede Ausgangsbasis eine Folge von maximal $n+m$ erlaubten Pivots existiert, die zu einer Optimalbasis führt. Leider liefert ihr Beweis keine Vorgehensweise, um diese Pivots in jedem Optimierungsschritt auch zu finden.

Wie aus der Definition zu ersehen ist, haben Optimalbasen keine erlaubten Pivots, das Verfahren kann in so einem Fall gar nicht fortgeführt werden. Anderseits kann anhand von Argumenten wie im obigen Abschnitt leicht gezeigt werden, dass eine nichtoptimale Basis ohne erlaubte Pivots immer zu einer Aufgabe gehört, die gar keine Lösung hat; entweder, weil das System der Gleichungen und Ungleichungen überhaupt keine Lösung hat (unzulässige Aufgabe), oder, weil sich Lösungen mit beliebig großem $z$ finden lassen (unbeschränkte Aufgabe).

### Rundungsfehlerfreie Umsetzung

Um Rundungsfehler zu vermeiden, kann mit Bruchzahlen und gemeinsamen Nenner für sämtliche Einträge gearbeitet werden. Um in jedem Schritt einen gemeinsamen Nenner für das Gesamtsystem zu finden, müssen wir die Einträge nicht zusätzlich untersuchen. Falls das Startsystem ganzzahlig ist (was sich normalerweise durch Erweiterung erreichen lässt), gilt die Regel:

* Der Zähler des gewählten Pivotelements ist ein gemeinsamer Nenner für das darauffolgende System.

Wenn die Einträge des Folgesystems mit diesem gemeinsamen Nenner multipliziert werden, erhält man ganzzahlige Werte. Bei der Aufstellung des Folgesystems veraltet der gemeinsame Nenner des Vorgängersystems, weshalb sämtliche Einträge des Folgesystems ungeprüft durch diesen veralteten Nenner gekürzt werden können.

Eine Tabelle mit den Einträgen eines Pivotsystems wird oftmals Tableau genannt. Das folgende Schema zeigt an, wie sich die Einträge der Pivotsysteme von einem Schritt auf den nächsten verändern:

| ${\begin{matrix}\delta \,x_{i}&\!=\!&(~~\alpha )&\!\!\!x_{j}&\!+\!&(~~\sigma )&\!\!\!x_{s}\\[6pt]\delta \,x_{r}&\!=\!&(~~\zeta )&\!\!\!x_{j}&\!+\!&(~~p)&\!\!\!x_{s}\end{matrix}}$ | ${x_{r}\leftrightarrow x_{s}}$ | ${\begin{matrix}p\,x_{i}&\!=\!&(\textstyle {\frac {\alpha p\,-\,\zeta \sigma }{\delta }})&\!\!\!x_{j}&\!+\!\!&(~\sigma )&\!\!\!x_{r}\\[6pt]p\,x_{s}&\!=\!&(~-\zeta ~)&\!\!\!x_{j}&\!+\!\!&(~\delta )&\!\!\!x_{r}\\\end{matrix}}$ |
| - | - | - |

Das Zeichen $\delta \,$ steht hier für den gemeinsamen Nenner des Gleichungssystems, das Zeichen $p\,$ für den Zähler des Pivotelements, $\zeta \,$ für einen sonstigen Eintrag der Pivotzeile, $\sigma \,$ für einen sonstigen Eintrag der Pivotspalte, und $\alpha \,$ für einen beliebigen Eintrag abseits von Pivotzeile und Pivotspalte. Einträge der Zielbeitragszeile ($x_{i}\!=\!z\,$) und der Basiswertspalte ($x_{j}\!=\!1\,$) werden nach denselben Regeln umgewandelt.

## Beispiele

### Zur grafischen Darstellung

Die Bilder zu den Schritten in den folgenden Beispielen zeigen alle dasselbe Gleichungssystem in verschiedenen orthogonalen Koordinaten; dabei gilt:

* Die grün umrandete Fläche ist der zulässige Bereich, in dem alle Variablen nichtnegative Werte haben.
* Koordinatenachsen entsprechen den Gleichungen $x_{k}=0$ von unabhängigen Variablen; sonstige Geraden beschreiben freigelegte Variablen.
* Schnittpunkte erlaubter Pivots sind rot markiert; der schwarzumrandete Schnittpunkt zeigt den ausgewählten Pivot.
* Die gelbe Fläche wird im nächsten Schritt zum nichtnegativen Quadranten.

### Eine erfolgssichere Pivotauswahlregel

Wir wählen vorerst ein Beispiel ohne Zielvariable, das heißt, mit $z=0+0\,x_{1}+0\,x_{2}$. In so einem Fall wird keine der Variablen maximiert; es werden nur beliebige (nichtnegative) Werte für die Unbekannten $x_{1}\geq 0,\ldots ,x_{n+m}\geq 0$ gesucht, die ein vorgegebenes Gleichungssystem erfüllen. In jedem Schritt wollen wir dann den erlaubten Pivot $(x_{r},\,x_{s})$ nach folgender Regel wählen:

* Wähle $r=\min\{i\in B(\pi )~|~b_{i}^{\pi }<0\}$,
* danach wähle $s=\min\{j\in D(\pi )~|~G_{r,j}^{\pi }>0\}$.

Diese (nicht besonders effiziente) Auswahlregel fällt wegen $z=0$ mit der weiter unten angegebenen Kleinster-Index-Pivotauswahl zusammen; es lässt sich beweisen, dass diese Auswahl bei jeder lösbaren Aufgabe mit $z=0$ zu einer Optimalbasis führt.

Wir suchen nun Werte für die Unbekannten Fehler beim Parsen (SVG (MathML kann über ein Browser-Plugin aktiviert werden): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „http://localhost:6011/de.wikipedia.org/v1/“:): x_{1}\geq 0,\ldots ,x_{5}\geq 0 , die das Gleichungssystem

    ${\begin{matrix}x_{3}&=&(&-~\mathbf {2} &-~7x_{1}&+~{\underline {\mathbf {2x_{2}} }}&)~/~1\\[2pt]x_{4}&=&(&-~4&-~5x_{1}&+~2x_{2}&)~/~1\\[2pt]x_{5}&=&(&~~~9&+~2x_{1}&-~3x_{2}&)~/~1\end{matrix}}$

erfüllen. Die erlaubten Pivots im obigen Gleichungssystem sind $(x_{3},\,x_{2})$ und $(x_{4},\,x_{2})$; aufgrund der obigen Auswahlregel legen wir die unabhängige Variable $x_{2}$ an Stelle der Basisvariablen $x_{3}$ frei:

    Basis 0 zu Basis 1 (animiertes SVG, nach Öffnung erneut anklicken und gedrückt halten; funktioniert nicht in allen Browsern)

Wir erhalten nun das folgende, umgewandelte Gleichungssystem:

    ${\begin{matrix}x_{2}&=&(&~~~2&+~~7x_{1}&+~~~~x_{3}&)~/~2\\[2pt]x_{4}&=&(&-~\mathbf {4} &+~~{\underline {\mathbf {4x_{1}} }}&+~~~2x_{3}&)~/~2\\[2pt]x_{5}&=&(&~~12&-~17x_{1}&-~~~3x_{3}&)~/~2\end{matrix}}$

Im neuen System sind die erlaubten Pivots $(x_{4},\,x_{1})$ und $(x_{4},\,x_{3})$; dieses Mal legen wir legen wir $x_{1}$ an Stelle von $x_{4}$ frei:

    Basis 1 zu Basis 2 (animiertes SVG, nach Öffnung erneut anklicken und gedrückt halten; funktioniert nicht in allen Browsern)

Wir erhalten nun das folgende System:

    ${\begin{matrix}x_{2}&=&(&~~18&+~~7x_{4}&-~~5x_{3}&)~/~4\\[2pt]x_{1}&=&(&~~~4&+~~2x_{4}&-~~2x_{3}&)~/~4\\[2pt]x_{5}&=&(&-\mathbf {10} &-~17x_{4}&+~{\underline {\mathbf {11x_{3}} }}&)~/~4\end{matrix}}$

Der einzige erlaubte Pivot hier ist $(x_{5},\,x_{3})$; deshalb können wir nur $x_{3}$ an Stelle von $x_{5}$ freilegen:

    Basis 2 zu Basis 3 (animiertes SVG, nach Öffnung erneut anklicken und gedrückt halten; funktioniert nicht in allen Browsern)

Nun erhalten wir

    ${\begin{matrix}x_{2}&=&(&~~37&-~~2x_{4}&-~~~5x_{5}&)~/~11\\[2pt]x_{1}&=&(&~~~6&-~~3x_{4}&-~~~2x_{5}&)~/~11\\[2pt]x_{3}&=&(&~~10&+~17x_{4}&+~~~4x_{5}&)~/~11\end{matrix}}$

Dieses System erfüllt die Optimalitätsbedingungen und hat dementsprechend auch keine erlaubten Pivots. Indem wir sämtliche unabhängige Variablen auf Null setzen, erhalten wir die folgende Lösung:

    $x_{1}=6/11=0.55,x_{2}=37/11=3.36,x_{3}=10/11=0.91,x_{4}=0,x_{5}=0\,.$

### Kreislaufanfällige Pivotauswahlregel

Es folgt nun ein Beispiel einer ungeeigneten Pivotauswahl; bei ungeeigneter Pivotwahl kann ein Pivotverfahren nämlich in einen unendlichen Kreislauf (eine Endlosschleife) geraten. Es sei wieder $\,z=0+0\,x_{1}+0\,x_{2}\,.$ Wie bei folgender Regel vorgeschlagen, könnten wir beispielsweise der Versuchung erliegen, die Pivotzeile nur unter den "meistverletzten" Nebenbedingungen auszuwählen, und dabei "meistverletzt" als diejenigen mit den am weitesten negativen Konstanten verstehen:

* Wähle $r=\min {\big \i\in B(\pi )~|~~b_{i}^{\pi }\!=\!\min\{b_{k}^{\pi }\,|\,k\in B(\pi ),~b_{k}^{\pi }\!<\!0\}~{\big \}}$,
* danach wähle $s=\min\{j\in D(\pi )~|~G_{r,j}^{\pi }>0\}$.

Um zu zeigen, dass so etwas falsch gehen kann, starten wir mit dem System:

    ${\begin{matrix}x_{3}&=&(&-~\mathbf {2} &+~~{\underline {\mathbf {x_{1}} }}&+~~x_{2}&)~/~2\\[2pt]x_{4}&=&(&~~~6&-~7x_{1}&-~3x_{2}&)~/~2\\[2pt]x_{5}&=&(&~~~0&-~3x_{1}&-~~x_{2}&)~/~2\\[2pt]x_{6}&=&(&~~~4&+~7x_{1}&+~~x_{2}&)~/~2\end{matrix}}$

Wir wählen hier $\,x_{3}\,$ und legen an Stelle dessen $\,x_{1}\,$ frei. Dadurch erhalten wir das System:

    ${\begin{matrix}x_{1}&=&(&~~~2&+~2x_{3}&-~~x_{2}&)~/~1\\[2pt]x_{4}&=&(&-~\mathbf {4} &-~7x_{3}&+~{\underline {\mathbf {2x_{2}} }}&)~/~1\\[2pt]x_{5}&=&(&-~~3&-~3x_{3}&+~~x_{2}&)~/~1\\[2pt]x_{6}&=&(&~~~9&+~7x_{3}&-~3x_{2}&)~/~1\end{matrix}}$

Wir wählen Basisvariable $\,x_{4}\,$, legen an deren Stelle $\,x_{2}\,$ frei, und erhalten:

    ${\begin{matrix}x_{1}&=&(&~~~0&-~3x_{3}&-~~x_{4}&)~/~2\\[2pt]x_{2}&=&(&~~~4&+~7x_{3}&+~~x_{4}&)~/~2\\[2pt]x_{5}&=&(&-~\mathbf {2} &+~~{\underline {\mathbf {x_{3}} }}&+~~x_{4}&)~/~2\\[2pt]x_{6}&=&(&~~~6&-~7x_{3}&-~3x_{4}&)~/~2\end{matrix}}$

Die Einträge in diesem Gleichungssystem sind dieselben wie im Startsystem, weshalb sich bei ähnlicher Pivotfolge auch die Einträge der folgenden Systeme alle zwei Schritte wiederholen werden. Nach Auswahl der Basisvariablen $\,x_{5}\,$ um an deren Stelle $\,x_{3}\,$ freizulegen erhalten wir:

    ${\begin{matrix}x_{1}&=&(&-~~3&-~3x_{5}&+~~x_{4}&)~/~1\\[2pt]x_{2}&=&(&~~~9&+~7x_{5}&-~3x_{4}&)~/~1\\[2pt]x_{3}&=&(&~~~2&+~2x_{5}&-~~x_{4}&)~/~1\\[2pt]x_{6}&=&(&-~\mathbf {4} &-~7x_{5}&+~{\underline {\mathbf {2x_{4}} }}&)~/~1\end{matrix}}$

Nach der kreislauffreien Regel im vorherigen Beispiel müssten wir nun $\,x_{1}\,$ wählen um $\,x_{4}\,$ freizulegen. Anstelle dessen folgen wir der abgewandelten Regel und wählen dafür die Basisvariable $\,x_{6}\,$, was zu folgendem System führt:

    ${\begin{matrix}x_{1}&=&(&-~\mathbf {2} &+~~{\underline {\mathbf {x_{5}} }}&+~~x_{6}&)~/~2\\[2pt]x_{2}&=&(&~~~6&-~7x_{5}&-~3x_{6}&)~/~2\\[2pt]x_{3}&=&(&~~~0&-~3x_{5}&-~~x_{6}&)~/~2\\[2pt]x_{4}&=&(&~~~4&+~7x_{5}&+~~x_{6}&)~/~2\end{matrix}}$

Dieses Gleichungssystem hat dieselben Einträge wie das Startsystem. Weil diese nun anderen Variablen zugeordnet sind, ist die Endlosschleife nach diesen 4 Schritten freilich noch nicht beendet, aber die Umformung der Einträge ist hier unabhängig von deren Zuordnung zu Variablen, und nach endlich vielen Schritten (in diesem Falle 12) wird wieder das Startsystem erreicht. Das Gesamtsystem von Gleichungen und Ungleichungen hat in Wirklichkeit gar keine Lösung, doch kann das Pivotverfahren das mit der oberen Pivotwahl nicht herausfinden.

Die Reihenfolge, in der Variable und Gleichungen eines Pivotsystems aufgelistet werden, ist grundsätzlich willkürlich. Dennoch wurden die ersten Pivotauswahl-Strategien, die Variablen und Gleichungen unabhängig von deren Darstellung im Pivotsystem behandeln (und dazu noch leicht umsetzbar waren), erst 1977 von Bland vorgestellt. In der Anfangszeit der Pivotverfahren (1950–1970), als noch nicht streng zwischen Algorithmen und Datenstrukturen unterschieden wurde, hat man Pivotauswahl-Strategien eher anhand von Datenstrukturen (der sogenannten Tableaus) beschrieben, und bei dieser Art Strategien konnte die Endlichkeit des Verfahrens ohne Zusatzberechnungen meist nicht gewährleistet werden.

## Dualität

### Duale Aufgabe

Jeder linearen Optimierungsaufgabe, welche in diesem Zusammenhang auch Primalaufgabe genannt wird, lässt sich von der obigen Buchform abhängig eine zweite Optimierungsaufgabe zuordnen; die Koeffizientenmatrix dieser sogenannten dualen Aufgabe ist die negative Transponierte der Koeffizientenmatrix der ursprünglichen Aufgabe:

    ${\begin{matrix}w&=&-\;f&-&b_{1}\,y_{n+1}&-&\cdots &-&b_{m}\,y_{n+m}\\[3pt]y_{1}&=&-\;d_{1}&-&G_{n+1,1}\,y_{n+1}&-&\cdots &-&G_{n+m,1}\,y_{n+m}\\\vdots &&\vdots &&\vdots &&&&\vdots \\y_{n}&=&-\;d_{n}&-&G_{n+1,n}\,y_{n+1}&-&\cdots &-&G_{n+m,n}\,y_{n+m}\end{matrix}}$
    ${\begin{matrix}\max ~w\,,\quad y_{1}\geq 0,\;\ldots ,\;y_{m+n}\geq 0\end{matrix}}$

In gedrungener Form wird das zu:

    ${\begin{matrix}&&w&=&(-f)&+&\sum _{i\in B}\,(-b_{i})\,y_{i}\\[6pt]\forall ~j\in D&&y_{j}&=&(-d_{j})&+&\sum _{i\in B}\,(-G_{i,j})\,y_{i}\end{matrix}}$
    ${\begin{matrix}\max ~w\,,\quad \forall ~k\in D\cup B\quad y_{k}\geq 0\end{matrix}}$

Wie gleich gezeigt wird, ist das Maximum der Dualaufgabe (soweit vorhanden) genau das negative Maximum der Primalaufgabe.

       (Vorsicht: Bei der Herleitung über diese Formulierung dürfen $\max \,z,\;\max \,w$ nicht durch $\min \,z,\;\min \,w$ ersetzt werden. Grund für diese scheinbare Asymmetrie ist, dass $x_{k}\geq 0,~y_{k}\geq 0$ und nicht $x_{k}\leq 0,~y_{k}\leq 0$ eingefordert wird. Oftmals wird die duale Aufgabe auch mit der Zielfunktion $\min \,(-w)$ anstelle von $\max \,w$ definiert, was zwar machbar, aber auch unübersichtlicher ist. )

### Schrittweise Umwandlung

Die obige Beziehung der Koeffizienten zwischen Primalaufgabe und Dualaufgabe gilt nicht etwa nur für die Ausgangsbasis, sondern bleibt erhalten, solange die Basisvariablen nach denselben Pivots umgewandelt werden. Es gilt

    ${\begin{matrix}&&w&=&(-f^{\pi })&+&\sum _{i\in B(\pi )}\,(-b_{i}^{\pi })\,y_{i}\\[6pt]\forall ~j\in D(\pi )&&y_{j}&=&(-d_{j}^{\pi })&+&\sum _{i\in B(\pi )}\,(-G_{i,j}^{\pi })\,y_{i}\end{matrix}}$
    ${\begin{matrix}\max ~w\,,\quad \forall ~k\in D\cup B\quad y_{k}\geq 0\,.\end{matrix}}$

Diese Dualitätsbeziehung lässt sich am leichtesten an einem Pivotsystem betrachten, das ausschließlich zwei unabhängige Unbekannte und zwei freigelegte Unbekannte enthält. Wir erhalten dasselbe System, wenn wir zuerst zwei der Unbekannten austauschen und danach die duale Aufgabe herleiten, oder wenn wir diese Schritte in umgekehrter Reihenfolge tun; das folgende kommutative Diagramm stellt diesen Zusammenhang dar:

| ${\begin{matrix}\delta \,x_{i}&\!=\!&(~~\alpha )&\!\!\!x_{j}&\!+\!&(~~\sigma )&\!\!\!x_{s}\\[6pt]\delta \,x_{r}&\!=\!&(~~\zeta )&\!\!\!x_{j}&\!+\!&(~~p)&\!\!\!x_{s}\end{matrix}}$ | ${x_{r}\leftrightarrow x_{s}}$ | ${\begin{matrix}p\,x_{i}&\!=\!&(\textstyle {\frac {\alpha p\,-\,\zeta \sigma }{\delta }})&\!\!\!x_{j}&\!+\!\!&(~\sigma )&\!\!\!x_{r}\\[6pt]p\,x_{s}&\!=\!&(~-\zeta ~)&\!\!\!x_{j}&\!+\!\!&(~\delta )&\!\!\!x_{r}\\\end{matrix}}$ |
| - | - | - |
| $-\,[\cdots ]^{\,T}$ | | $-\,[\cdots ]^{\,T}$ |
| ${\begin{matrix}\delta \,y_{j}&\!=\!&(-\alpha )&\!\!\!y_{i}&\!+\!&(-\zeta )&\!\!\!y_{r}\\[6pt]\delta \,y_{s}&\!=\!&(-\sigma )&\!\!\!y_{i}&\!+\!&(-p)&\!\!\!y_{r}\\\end{matrix}}$ | ${y_{s}\leftrightarrow y_{r}}$ | ${\begin{matrix}p\,y_{j}&\!=\!&(\textstyle {\frac {\zeta \sigma \,-\,\alpha p}{\delta }})&\!\!\!y_{i}&\!+\!\!&(~~\zeta )&\!\!\!y_{s}\\[6pt]p\,y_{r}&\!=\!&(~-\sigma ~)&\!\!\!y_{i}&\!+\!\!&(-\delta )&\!\!\!y_{s}\\\end{matrix}}$ |

Aus der Dualbeziehung folgt, dass ein Optimalsystem für die Primalaufgabe auch ein Optimalsystem für die duale Aufgabe liefert.

Zur Aufgabe im ersten Rechenbeispiel gehört folgende duale Aufgabe (die Nullen stammen von $z=0+0x_{1}+0x_{2}\,$):

    ${\begin{matrix}~w~&=&(&0&+~~2y_{3}&+~~4y_{4}&-~~9y_{5}&)~/~1\\[2pt]y_{1}&=&(&0&+~~7y_{3}&+~~5y_{4}&-~~2y_{5}&)~/~1\\[2pt]y_{2}&=&(&0&-~~2y_{3}&-~~2y_{4}&+~~3y_{5}&)~/~1\end{matrix}}$
    ${\begin{matrix}\max ~w,\quad y_{1}\geq 0,\ y_{2}\geq 0,\ y_{3}\geq 0,\ y_{4}\geq 0,\ y_{5}\geq 0\end{matrix}}$

Der obige Algorithmus führt dann zum Optimalsystem

    ${\begin{matrix}~w~&=&(&0&-~37y_{2}&-~~6y_{1}&-~10y_{3}&)~/~11\\[2pt]y_{4}&=&(&0&+~~2y_{2}&+~~3y_{1}&-~17y_{3}&)~/~11\\[2pt]y_{5}&=&(&0&+~~5y_{2}&+~~2y_{1}&-~~4y_{3}&)~/~11\end{matrix}}$

und die optimale Lösung dazu ist natürlich $x_{k}=0$ für alle $k\in D\cup B$. Die Primalaufgabe hatte eine implizite Zielfunktion $z=0$; sämtliche Optimallösungen der primalen und auch der dualen Aufgabe hätten deshalb, soweit vorhanden, einen Zielwert $w=-z=0$. Das ist derselbe Wert, den auch schon die Anfangslösung der dualen Aufgabe hatte, doch ist die Existenz einer Optimallösung aus dem ersten Gleichungssystem allein nicht ersichtlich: es hätte grundsätzlich auch Lösungen mit unendlich großem $w$ und somit gar keine Optimallösung geben können.

### Lösungspaare

Eine theoretisch bedeutsame Folge der Dualitätstheorie ist: Wir brauchen nicht unbedingt einen Maximierungs-Algorithmus, um lineare Optimierungsprobleme zu lösen; es genügt dazu jeder Algorithmus, der Systeme linearer Ungleichungen löst. Aus der Dualitätsbeziehung folgt nämlich, dass jede Optimalbasis der ursprünglichen Aufgabe auch unmittelbar eine Optimalbasis für die duale Aufgabe liefert; der optimale Wert der Zielvariable $w$ ist dann das Negative des Optimalwerts von $z.$. Für zulässige Lösungspaare der beiden Aufgaben gilt demzufolge

    $z+w~\leq ~(\max z)\!+\!(\max w)~=~(\max z)\!+\!(-\max z)~=~0\,,$

und für optimale Lösungspaare gilt

    $(\max z)\!+\!(\max w)~=~(\max z)\!+\!(-\max z)~=~0\,.$

Daraus folgt, dass die optimalen Lösungen beider Aufgaben genau die Lösungen der obigen Gleichungssysteme mit folgenden Ungleichungen sind:

    $z\,+\,w\,\geq \,0,\qquad \forall ~k\in D\cup B\qquad x_{k}\geq 0,\quad y_{k}\geq 0.$

Ausgeschrieben ist das

    ${\begin{matrix}\sum _{j\in D}\,d_{j}\,x_{j}~~+~~\sum _{i\in B}\,(-b_{i})\,y_{i}~~\geq ~~0\\[6pt]\forall ~j\in D\quad y_{j}~=~(-d_{j})~+~\sum _{i\in B}\,(-G_{i,j})\,y_{i}\\[6pt]\forall ~i\in B\quad x_{i}~=~b_{i}~+~\sum _{j\in D}\,G_{i,j}\,x_{j}\\[6pt]\forall ~k\in D\cup B\qquad x_{k}\geq 0,\quad y_{k}\geq 0\end{matrix}}$

In der Praxis ist so ein Vorgehen freilich nur dann konkurrenzfähig, wenn die gemeinsame Datenstruktur beider Aufgaben auch ausgenützt wird.

## Spezielle Pivotverfahren

Die einfachsten aller Pivotverfahren gehören zu den Criss-Cross-Verfahren, die in den 80er Jahren für Aufgabenstellungen im Kontext orientierter Matroide entwickelt wurden. Die wesentlich komplexeren Simplexverfahren wurden aber bereits 1947 von George Dantzig für die Lösung linearer Optimierungsprobleme veröffentlicht und haben danach dank ihrer weiten Verbreitung die Suche nach Criss-Cross-Verfahren maßgeblich motiviert. Weitere Pivotverfahren wurden für das lineare Komplementaritätsproblem mit suffizienten Matrizen (einschließlich quadratischer Programmierung) und für linear-fraktionale Optimierungsprobleme entwickelt.

Bei der Ausarbeitung verschiedener Pivotverfahren geht es in der Hauptsache darum, die Anzahl der Pivotschritte und damit auch die Laufzeit des Verfahrens gering zu halten. Während die derzeit bekannten Simplexverfahren alle eine überpolynomial beschränkte Laufzeit beanspruchen – das ist eine Laufzeit, die sich nicht durch ein Polynom in der Datenspeichergröße beschränken lässt – sind Laufzeitschranken für die Criss-Cross-Verfahren ein (bis 2010) noch offenes Forschungsthema. Zusammenfassend lässt sich darüber sagen, dass Criss-Cross-Verfahren mehr Freiheitsgrade aufweisen als Simplexverfahren, und dass ein Criss-Cross-Verfahren genau aus diesem Grund bei einer guten Pivotauswahl schneller und bei einer schlechten Pivotauswahl langsamer als Simplexverfahren sein kann.

### Primale Simplexverfahren

Primale Simplexverfahren (meist nur Simplexverfahren genannt) gehen von einer sogenannten zulässigen Basis mit $b_{i}^{\pi }\geq 0$ für alle $i\in B(\pi )$ aus und untersuchen ausschließlich zulässige Basen, bis eine Optimalbasis gefunden wird. Eine wichtige Eigenschaft der primalen Simplexverfahren ist, dass der Wert der Zielvariablen, also $f^{\pi }$, mit jedem Schritt monoton anwächst; würde er streng monoton anwachsen, wäre die Endlichkeit des Verfahrens gesichert.

Ein primales Simplexverfahren muss seine Pivots wie folgt wählen:

* Wähle ein beliebiges $s\in D(\pi )$, das $d_{s}^{\pi }>0$ erfüllt. Zum Beispiel, suche das kleinste $s\in D(\pi )$ mit dieser Eigenschaft (Bland-Regel).
* Wähle ein beliebiges $r\in B(\pi )$, das $b_{r}^{\pi }/(-G_{r,s}^{\pi })=\min_{i\in B(\pi )}\{b_{i}^{\pi }/(-G_{i,s}^{\pi })~|~G_{i,s}^{\pi }<0\}$ erfüllt. Zum Beispiel, suche das kleinste $r\in B(\pi )$ mit dieser Eigenschaft (Bland-Regel).

Um eine zulässige Ausgangsbasis zu erhalten, muss in einer sogenannten Phase 1 eine Hilfsaufgabe gelöst werden. Dies kann geschehen, indem man eine neue Zielfunktion mit beliebigen nichtpositiven Einträgen einfügt und die duale Aufgabe, bei der die Startlösung nun zulässig ist, maximiert. Statistisch gesehen ist es von Vorteil, die Einträge der neuen Zielfunktion zufallsverteilt negativ auszuwählen.

Ein Standardergebnis der linearen Optimierung besagt, dass für jede lösbare Aufgabe und für jede zulässige Basis eine Folge erlaubter Pivots existiert, die über ausschließlich zulässige Basen zu einer Optimalbasis führt; unbekannt ist dagegen, ob es eine Folge dieser Art gibt, deren Länge sich polynomial in der Speichergröße der Daten beschränken lässt.

### Duale Simplexverfahren

Duale Simplexverfahren sind Pivotverfahren, die von einer sogenannten dual-zulässigen Basis mit $d_{j}^{\pi }\leq 0$ für alle $j\in D(\pi )$ ausgehen und in ihrer Suche nach einer Optimalbasis ausschließlich dual-zulässige Basen untersuchen; der Wert der Zielvariablen nimmt dabei monoton ab.

Ein duales Simplexverfahren wählt seine Pivots $(x_{r},\,x_{s})$ wie folgt:

* Wähle ein beliebiges $r\in B(\pi )$, das $b_{r}^{\pi }<0$ erfüllt. Zum Beispiel, suche das kleinste $r\in B(\pi )$ mit dieser Eigenschaft (Bland-Regel).
* Wähle ein beliebiges $s\in D(\pi )$, das $(-d_{s}^{\pi })/G_{r,s}^{\pi }=\min_{j\in D(\pi )}\{(-d_{j}^{\pi })/G_{r,j}^{\pi }~|~G_{r,j}^{\pi }>0\}$ erfüllt. Zum Beispiel, suche das kleinste $s\in D(\pi )$ mit dieser Eigenschaft (Bland-Regel).

Duale Simplexverfahren erzeugen die gleichen Pivotfolgen wie die auf die duale Aufgabe angewandten primalen Simplexverfahren und haben deshalb auch grundsätzlich die gleichen Eigenschaften wie die primalen Verfahren. Dass sie für die Lösung vieler angewandter Aufgaben trotzdem den Primalverfahren vorgezogen werden, liegt daran, dass es für viele angewandte Aufgaben leichter ist, eine dual-zulässige Ausgangsbasis zu finden.

### Criss-Cross-Verfahren

Criss-Cross-Verfahren (englisch: kreuz und quer) sind allgemeine Pivotverfahren, die von einer beliebigen Basis ausgehen; in der Regel wird dieser Name für kombinatorische Pivotverfahren verwendet, das heißt, für Pivotverfahren, welche nur die Vorzeichen der Systemkoeffizienten und nicht die Koeffizienten selbst für die Pivotauswahl in Betracht ziehen.

Das bekannteste aller Criss-Cross-Verfahren erweitert die Kleinster-Index-Pivotauswahl aus dem ersten Beispiel. Dafür werden die Unbekannten in einer mehr oder weniger festen Reihenfolge angeordnet und die Pivots wie folgt ausgewählt (wie üblich sei das Minimum der leeren Menge unendlich groß):

* Suche die Indices $r=\min\{i\in B(\pi )~|~b_{i}^{\pi }<0\}$ und $s=\min\{j\in D(\pi )~|~d_{j}^{\pi }>0\}$.
* Falls $r<s$, ist, wähle Pivot $(x_{r},\,x_{l})$ mit $l=\min\{j\in D(\pi )~|~G_{r,j}^{\pi }>0\}$.
* Falls $s<r$, ist, wähle Pivot $(x_{k},\,x_{s})$ mit $k=\min\{i\in B(\pi )~|~G_{i,s}^{\pi }<0\}$.

Das lässt natürlich die Frage offen, wie die Variablen angeordnet werden sollen.

### Beispiel eines Criss-Cross-Verfahrens

Im folgenden Beispiel benutzen wir die obige Kleinster-Index-Pivotauswahl. Es sollen Werte für die Variablen $x_{1}\geq 0,\ldots ,x_{5}\geq 0$ gefunden werden, die das Gleichungssystem

    ${\begin{matrix}z&=&(&~~~0&+~\mathbf {3x_{1}} &+~2x_{2}&)~/~1\\[2pt]x_{3}&=&(&~~~3&-~{\underline {\mathbf {2x_{1}} }}&-~~x_{2}&)~/~1\\[2pt]x_{4}&=&(&~~~7&-~2x_{1}&-~3x_{2}&)~/~1\\[2pt]x_{5}&=&(&~~~4&-~3x_{1}&-~~x_{2}&)~/~1\end{matrix}}$

erfüllen und dabei die zusätzliche Zielvariable $z$ auf ein Maximum bringen. Wir benutzen dazu die oben angeführte Pivotauswahl des kleinsten Index.

In unserem Ausgangssystem sind sämtliche Pivots erlaubt; die Auswahlregel schreibt aber vor, dass wir $x_{1}$ freilegen und gegen $x_{3}$ austauschen:

    Basis 0 zu Basis 1 (animiertes SVG, nach Öffnung erneut anklicken und gedrückt halten; funktioniert nicht in allen Browsern)

Das führt zum neuen Gleichungssystem:

    ${\begin{matrix}z&=&(&~~~9&-~3x_{3}&+~~\mathbf {x_{2}} &)~/~2\\[2pt]x_{1}&=&(&~~~3&-~~x_{3}&-~~{\underline {\mathbf {x_{2}} }}&)~/~2\\[2pt]x_{4}&=&(&~~~8&+~2x_{3}&-~4x_{2}&)~/~2\\[2pt]x_{5}&=&(&-~1&+~3x_{3}&+~~x_{2}&)~/~2\end{matrix}}$

Hier sind die Pivots $(x_{2},\,x_{1})$, $(x_{2},\,x_{4})$ und $(x_{5},\,x_{2})$, $(x_{5},\,x_{3})$ erlaubt; anhand der Auswahlregel legen wir $x_{2}$ an Stelle von $x_{1}$ frei:

    Basis 1 zu Basis 2 (animiertes SVG, nach Öffnung erneut anklicken und gedrückt halten; funktioniert nicht in allen Browsern)

Wir erhalten das System:

    ${\begin{matrix}z&=&(&~~~6&-~2x_{3}&-~~x_{1}&)~/~1\\[2pt]x_{2}&=&(&~~~3&-~~x_{3}&-~2x_{1}&)~/~1\\[2pt]x_{4}&=&(&-~\mathbf {2} &+~3x_{3}&+~{\underline {\mathbf {4x_{1}} }}&)~/~1\\[2pt]x_{5}&=&(&~~~1&+~~x_{3}&-~~x_{1}&)~/~1\end{matrix}}$

Die erlaubten Pivots dieses Gleichungssystems sind $(x_{4},\,x_{1})$ und $(x_{4},\,x_{3})$; wir legen darum $x_{1}$ an Stelle von $x_{4}$ frei:

    Basis 2 zu Basis 3 (animiertes SVG, nach Öffnung erneut anklicken und gedrückt halten; funktioniert nicht in allen Browsern)

Nun erhalten wir das System:

    ${\begin{matrix}z&=&(&~~22&-~5x_{3}&-~~x_{4}&)~/~4\\[2pt]x_{2}&=&(&~~~8&+~2x_{3}&-~2x_{4}&)~/~4\\[2pt]x_{1}&=&(&~~~2&-~3x_{3}&+~~x_{4}&)~/~4\\[2pt]x_{5}&=&(&~~~2&+~7x_{3}&-~~x_{4}&)~/~4\end{matrix}}$

Dieses Gleichungssystem ist optimal; die Werte der Unbekannten für die dazugehörige Lösung sind

    $z=22/4=5.5,x_{1}=2/4=0.5,x_{2}=8/4=2.0,x_{3}=0,x_{4}=0,x_{5}=2/4=0.5\,.$

## Große Aufgaben

Eine Implementierung der Pivotverfahren für praktische Aufgaben ist oft weit von trivial entfernt. Die Einträge großer Gleichungssysteme – mit zehntausenden von Variablen – weisen so gut wie immer irgendeine Struktur auf, die es auszunutzen gilt, um die Berechnung derselben schnell und rundungsfehlerarm durchzuführen:

* Im Startsystem großer Aufgaben (nicht in den umgewandelten Gleichungssystemen) ist die überwältigende Mehrheit der Einträge Null (das System ist dünnbesetzt), was es ermöglicht, einen Großteil der Rechnungen einzusparen, wenn man auch in späteren Umwandlungen teilweise vom Startsystem ausgeht.
* Bei den Vorgehensweisen mit verzögerter Auswertung (über Umstellung der Startmatrix, teilweise LR-Zerlegung der Koeffizientenmatrix, Produktform inverser Matrizen und anderem mehr) berechnet man einen Eintrag nur und erst dann, wenn man ihn wirklich braucht, um den Pivot zu finden. Dabei muss man aber oft auf Einträge aus älteren Gleichungssystemen zurückgreifen, so dass die Formeln zur Berechnung komplizierter und vielfältiger werden.
* Für manche Sonderstrukturen, wie zum Beispiel dem Netzflussproblem, wurden besonders effiziente Umsetzungen entwickelt, und diese Sonderstrukturen sind oft eingebettet in größere Systeme.

Nichtsdestominder kommen in der Praxis auch kleinere Aufgaben vor, für welche die oben beschriebene Direktumsetzung durchaus sinnvoll ist.

