Runge-Kutta-Verfahren
# Runge-Kutta-Verfahren

Die nach Carl Runge und Martin Wilhelm Kutta benannten $s$-stufigen Runge-Kutta-Verfahren sind Einschrittverfahren zur näherungsweisen Lösung von Anfangswertproblemen in der numerischen Mathematik. Wenn von dem Runge-Kutta-Verfahren gesprochen wird, ist in der Regel das klassische Runge-Kutta-Verfahren gemeint; dieses bildet jedoch nur einen Spezialfall dieser Familie von Verfahren.

## Allgemeine Formulierung

Gegeben sei ein Anfangswertproblem:

    $y'(t)=f\left(t,y(t)\right),\quad y(t_{0})=y_{0},\quad y\colon \mathbb {R} \to \mathbb {R} ^{d}$

mit exakter Lösung $y(t)$. Die exakte Lösung kann im Allgemeinen nicht oder nicht effizient angegeben werden, weshalb man sich mit einer Näherung $y_{n}$ an diskreten Stellen $t_{n}$ begnügt. Es gibt verschiedene Methoden zur Berechnung dieser Näherung, zum Beispiel Einschrittverfahren, wie diese Runge-Kutta-Verfahren, oder Mehrschrittverfahren.

Die $s$-stufigen Runge-Kutta-Verfahren sind Einschrittverfahren, die durch Ausdrücke der folgenden Art gegeben sind:

    $y_{n+1}=y_{n}+h\sum _{j=1}^{s}b_{j}k_{j}.$

Dabei bezeichnet $h$ die Schrittweite zwischen den aufeinanderfolgenden Stützstellen $t_{n}$ und $t_{n+1}$. Die Koeffizienten $b_{j}$ definieren das jeweilige Verfahren und können als Gewichte der Quadraturformel für das Integral $\textstyle \int _{t_{n}}^{t_{n+1}}f(t,y(t))\mathrm {d} t$ interpretiert werden. Die Größen $k_{j}$ bezeichnet man als Zwischenschritte, sie entsprechen Auswertungen der rechten Seite $f$ an bestimmten Knoten:

    $k_{j}=f\left(t_{n}+hc_{j},y_{n}+h\sum _{l=1}^{s}a_{jl}k_{l}\right),\,j=1,...,s.$

Die $c_{j}$ und $a_{jl}$ sind weitere für das Verfahren charakteristische Koeffizienten und können als Knoten und Gewichte der Quadraturformeln zur Berechnung der $k_{j}$ verstanden werden.

Ein allgemeines Runge-Kutta-Verfahren ist implizit, es müssen also zur Bestimmung der $k_{j}$ (lineare oder nichtlineare, je nach Aufbau von $f$) Gleichungssysteme gelöst werden, weil in der Formel für $k_{j}$ sowohl links wie auch rechts alle $k_{.}$ vorkommen. Gilt aber $a_{jl}=0$ für alle $l\geq j$, dann ist das Verfahren explizit, d. h. man muss kein Gleichungssystem lösen: Denn dann kann man jedes $k_{j}$ aus den vorher bestimmten $k_{l}$ mit $l<j$ ermitteln.

Die Steuerung der Schrittweite $h$ ist von besonderem Interesse. Man kann sich leicht vorstellen, dass die Funktion in Bereichen, in denen nur geringe Änderungen zwischen $y_{n+1}$ und $y_{n}$ vorliegen, mit weniger Rechenschritten auskommt als in solchen, in denen schnelle Änderungen vorliegen.

### Beispiel

Ein Beispiel ist das dreistufige Runge-Kutta-Verfahren: $\textstyle y_{n+1}=y_{n}+h\cdot ({\frac {1}{6}}k_{1}+{\frac {4}{6}}k_{2}+{\frac {1}{6}}k_{3})$ mit den Zwischenstufen

    $k_{1}=f(t_{n},y_{n})\quad$
    $k_{2}=f\left(t_{n}+{\frac {h}{2}},y_{n}+{\frac {h}{2}}k_{1}\right)\quad$
    $k_{3}=f(t_{n}+h,y_{n}-hk_{1}+2hk_{2})\quad$

## Butcher-Tableau

Man kann die charakteristischen Koeffizienten $c_{j}$, $b_{j}$, $a_{jl}$ übersichtlich im Runge-Kutta-Tableau (auch Butcher-Schema, -Tableau oder engl. Butcher array genannt) anordnen. Hierbei ist die Matrix A bei einem expliziten Verfahren eine strikte untere Dreiecksmatrix (Nilpotente Dreiecksmatrix).

    ${\begin{array}{c|c}\mathbf {c} &A\\\hline &\mathbf {b^{T}} \\\end{array}}={\begin{array}{c|cccc}c_{1}&a_{11}&a_{12}&\dots &a_{1s}\\c_{2}&a_{21}&a_{22}&\dots &a_{2s}\\\vdots &\vdots &\vdots &\ddots &\vdots \\c_{s}&a_{s1}&a_{s2}&\dots &a_{ss}\\\hline &b_{1}&b_{2}&\dots &b_{s}\\\end{array}}\;,$  $c={\begin{bmatrix}c_{1}\\\vdots \\c_{j}\\\vdots \\c_{s}\end{bmatrix}}\;,\quad b={\begin{bmatrix}b_{1}\\\vdots \\b_{j}\\\vdots \\b_{s}\end{bmatrix}}\;,\quad A={\begin{bmatrix}a_{11}&\dots &a_{1l}&\dots &a_{1s}\\\vdots &\ddots &\vdots &\ddots &\vdots \\a_{j1}&\dots &a_{jl}&\dots &a_{js}\\\vdots &\ddots &\vdots &\ddots &\vdots \\a_{s1}&\dots &a_{sl}&\dots &a_{ss}\\\end{bmatrix}}\;.$

## Konsistenzordnung und Konvergenzordnung

Eine wichtige Eigenschaft zum Vergleich von Verfahren ist die Konsistenzordnung, die auf dem Begriff des lokalen Diskretisierungsfehlers $\tau =y_{n+1}-y(t_{n+1})$ beruht. Dabei ist $y_{n+1}$ die numerische Lösung nach einem Schritt und $y(t_{n+1})$ die exakte Lösung. Ein Einschrittverfahren heißt konsistent von der Ordnung $p$ (hat Konsistenzordnung $p$), falls für den lokalen Diskretisierungsfehler gilt:

    $\tau \leq {\mathcal {O}}(h^{p+1})$ (Zur Notation siehe Landau-Symbole).

Die Konsistenzordnung kann durch Taylorentwicklung von $\tau$ oder der exakten und numerischen Lösung bestimmt werden. Allgemein gilt:

    Konsistenzordnung $p$ und Stabilität $\Rightarrow$ Konvergenzordnung $p$

Bei Einschrittverfahren wie den Runge-Kutta-Verfahren gilt sogar, sofern $f$ und die Verfahrensvorschrift Lipschitz-stetig sind:

    Konsistenzordnung $p$ $\Rightarrow$ Konvergenzordnung $p$

Aus der Konsistenzbedingung (z. B. soll das Verfahren Ordnung 4 haben) ergeben sich Konsistenzgleichungen (engl. conditions) für die Koeffizienten des Runge-Kutta-Verfahrens. Die Gleichungen und ihre Anzahl können mit Hilfe von Taylorentwicklung oder der Theorie der Butcher-Bäume ermittelt werden. Mit zunehmender Ordnung wächst die Zahl der zu lösenden nicht-linearen Konsistenzgleichungen schnell an. Das Aufstellen der Konsistenzgleichungen ist bereits nicht einfach, kann jedoch mit Hilfe der Butcher-Bäume von Computeralgebrasystemen erledigt werden. Das Lösen ist allerdings noch schwieriger und bedarf Erfahrung und Fingerspitzengefühl, um „gute“ Koeffizienten zu erhalten.

Ein explizites $s$-stufiges Runge-Kutta-Verfahren hat höchstens Konvergenzordnung $s$, ein implizites dagegen bis zu $2s$.

Um die Genauigkeit eines Ergebnisses zu verbessern, gibt es zwei Möglichkeiten:

* Man kann die Schrittweite verkleinern, das heißt, man erhöht die Anzahl der Diskretisierungspunkte.
* Man kann Verfahren höherer Konvergenzordnung wählen.

Welche Strategie die bessere ist, hängt von der konkreten Problemstellung ab, die Erhöhung der Konvergenzordnung ist allerdings nur bis zu einer bestimmten Grenze sinnvoll, da wegen der Butcher-Schranken die Stufenzahl $s$ schneller wächst als die Ordnung $p$. Für $s\geq 5$ existiert beispielsweise kein explizites $s$-stufiges RKV der Konvergenzordnung $q=s$.

## Implizite Runge-Kutta-Verfahren

Explizite Verfahren haben den Vorteil, dass die Stufen durch sukzessives Einsetzen berechenbar sind, beim impliziten Verfahren muss dagegen je nach Form der rechten Seite $f\in \mathbb {R} ^{d}$ ein lineares oder nichtlineares Gleichungssystem mit $s\cdot d$ Unbekannten gelöst werden, was pro Zeitschritt einen wesentlich höheren Aufwand darstellt. Der Grund, warum implizite Verfahren überhaupt in Betracht gezogen werden, ist, dass explizite Runge-Kutta-Verfahren stets ein beschränktes Stabilitätsgebiet haben, während implizite Runge-Kutta-Verfahren für praktisch beliebig hohe Ordnungen A-stabil sein können und damit Einschränkungen an den Zeitschritt nur aufgrund von Genauigkeitsüberlegungen und nicht aufgrund von Stabilitätsbeschränkungen notwendig sind. Dies ist insbesondere bei steifen Anfangswertproblemen und differentiell-algebraischen Gleichungen interessant.

Die maximale Ordnung eines $s$-stufigen Runge-Kutta-Verfahrens ist $2s$. Diese wird ausschließlich durch die Gauß-Legendre-Verfahren erzielt, bei denen die Quadraturformeln zur Konstruktion des Runge-Kutta-Verfahren den Gauß-Legendre-Formeln entsprechen. Ordnung $2s-1$ wird etwa mittels Radau-Formeln erzielt, die Runge-Kutta-Verfahren heißen dann Radau-Verfahren, während Ordnung $2s-2$ über Lobatto-Formeln erzielt wird, die Verfahren heißen dann Lobatto-Verfahren.

Um die Lösung eines Gleichungssystems mit $s\cdot d$ Unbekannten zu umgehen, werden häufig Diagonal Implizite Runge-Kutta-Verfahren (kurz DIRK) genutzt. Dabei hat die Matrix $A$ im Butcher-Array Dreieckform, alle Einträge rechts oberhalb der Diagonalen sind also Null. Dies entkoppelt das große Gleichungssystem in eine Sequenz von $s$ Gleichungssystemen. Ist darüber hinaus der Koeffizient auf der Diagonalen konstant, spricht man von einem SDIRK-Verfahren (für singly diagonal). Sind die Koeffizienten in der letzten Zeile von $A$ identisch mit denen des Vektors $b$, so wird etwas Aufwand gespart, insbesondere sind die Verfahren dann aber auch L-stabil. Diese Vereinfachung geschieht auf Kosten der maximalen Ordnung: $s$-stufige DIRK-Verfahren haben maximal Ordnung $s+1$, wobei dieses Maximum nicht für beliebige Stufen erreicht werden kann. Die in der Praxis verwandten Verfahren haben in der Regel Ordnung $s$ oder weniger.

Als Alternative zu DIRK-Verfahren haben sich noch die linear impliziten Verfahren etabliert, insbesondere die Rosenbrock-Wanner-Verfahren, bei denen die nichtlinearen Gleichungen durch lineare angenähert werden.

## Zeitschrittweitensteuerung: Eingebettete Verfahren

Um die Effizienz der Verfahren zu erhöhen, ist es sinnvoll, den Zeitschritt einer Fehlertoleranz anzupassen. Runge-Kutta-Verfahren bieten hierzu über eingebettete Verfahren eine relativ einfache Möglichkeit. Diese bestehen aus einem zweiten Satz an Koeffizienten ${\hat {b}}$ für ein zweites Verfahren:

    ${\hat {y}}_{n+1}=y_{n}+h\sum _{j=1}^{s}{\hat {b}}_{j}k_{j},$

wobei die Koeffizienten so gewählt werden, dass sich ein schlechteres Verfahren, konkret ein Verfahren von niedrigerer Ordnung ergibt als das ursprüngliche. Dann ist die Differenz

    $y_{n+1}-{\hat {y}}_{n+1}=h\sum _{j=1}^{s}(b_{j}-{\hat {b}}_{j})k_{j}$

eine Schätzung des lokalen Fehlers des ursprünglichen Verfahrens von der Ordnung wie das eingebettete Verfahren. Zur Berechnung sind keine neuen Funktionsauswertungen notwendig, sondern nur Linearkombinationen der bereits berechneten $k_{j}$. Die Bestimmung einer neuen Zeitschrittweite aus dem Fehlerschätzer kann über verschiedene Schrittweitensteuerungen erfolgen.

Im expliziten Fall sind die bekanntesten eingebetteten Verfahren die Runge-Kutta-Fehlberg- sowie die Dormand-Prince-Formeln (DOPRI).

## Geschichte

Die ersten Runge-Kutta-Verfahren wurden um 1900 von Karl Heun, Martin Wilhelm Kutta, und Carl Runge entwickelt. In den 1960ern entwickelte John C. Butcher mit den vereinfachenden Bedingungen und dem Butcher-Tableau Werkzeuge, um Verfahren höherer Ordnung zu entwickeln. Ernst Hairer fand 1978 ein Verfahren 8. Ordnung mit zehn Stufen.

## Beispiele

Das explizite Euler-Verfahren (Ordnung 1):

${\begin{array}{c|c}0\\\hline &1\end{array}}$

Das implizite Euler-Verfahren (Ordnung 1):

${\begin{array}{c|c}1&1\\\hline &1\end{array}}$

Das Heun-Verfahren (Ordnung 2):

${\begin{array}{c|cc}0\\1&1\\\hline &{\frac {1}{2}}&{\frac {1}{2}}\end{array}}$

Das Runge-Kutta-Verfahren der Ordnung 2:

${\begin{array}{c|cc}0\\{\frac {1}{2}}&{\frac {1}{2}}\\\hline &0&1\end{array}}$

Das implizite Trapez-Verfahren der Ordnung 2:

${\begin{array}{c|cc}0\\1&{\frac {1}{2}}&{\frac {1}{2}}\\\hline &{\frac {1}{2}}&{\frac {1}{2}}\end{array}}$

Das Runge-Kutta-Verfahren der Ordnung 3 (vgl. Simpsonregel):

${\begin{array}{c|ccc}0\\{\frac {1}{2}}&{\frac {1}{2}}\\1&-1&2\\\hline &{\frac {1}{6}}&{\frac {4}{6}}&{\frac {1}{6}}\end{array}}$

Das Heun-Verfahren 3. Ordnung:

${\begin{array}{c|ccc}0\\{\frac {1}{3}}&{\frac {1}{3}}\\{\frac {2}{3}}&0&{\frac {2}{3}}\\\hline &{\frac {1}{4}}&0&{\frac {3}{4}}\end{array}}$

Das klassische Runge-Kutta-Verfahren (Ordnung 4):

${\begin{array}{c|cccc}0&&&&\\{\frac {1}{2}}&{\frac {1}{2}}&&&\\{\frac {1}{2}}&0&{\frac {1}{2}}&&\\1&0&0&1&\\\hline &{\frac {1}{6}}&{\frac {1}{3}}&{\frac {1}{3}}&{\frac {1}{6}}\end{array}}$

