Numerische Differentiation - Wissenschaftliches Rechnen (i788)

Für eine gegebene differenzierbare Funktion $f:\bbR\to\bbR$ soll die Ableitung

f'(x_0):=\lim_{x\to x_0}\frac{f(x)-f(x_0)}{x-x_0}

(1)

an einer Stelle $x_0\in\bbR$ numerisch berechnet werden.

3.1Idee¶

Aus der Definition der Ableitung erhält man sofort zwei einfache Möglichkeiten zur näherungsweisen Berechnung von $f'(x)$ :

Vorwärtsdifferenzenquotient ( $x>x_0$ ): Zu vorgegebener Schrittweite $h>0$ berechne
$f'(x_0)\approx\frac{f(x_0+h)-f(x_0)}{h}.$
(2)
Rückwärtsdifferenzenquotient ( $x<x_0$ ): Zu vorgegebener Schrittweite $h>0$ berechne
$f'(x_0)\approx\frac{f(x_0)-f(x_0-h)}{h}.$
(3)

Die Vorwärtsdifferenz liefert eine Näherung für die rechtsseitige Ableitung, die Rückwärtsdifferenz für die linksseitige. Für differenzierbares $f$ stimmen links- und rechtsseitige Ableitung überein. Um sich nicht zwischen beiden Varianten entscheiden zu müssen, kann man auch den Mittelwert beider Varianten nutzen:

Zentraler Differenzenquotient: Zu vorgegebener Schrittweite $h>0$ berechne
$f'(x_0)\approx\frac{f(x_0+h)-f(x_0-h)}{2\,h}$
(4)
(IDVID 310).

Kann $f$ nur an vorgegebenen Stellen ausgewertet werden, z.B. $f$ nur an endlich vielen Stellen durch Messungen gegeben ist, so müssen $x_0$ und $h$ bei Vorwärts- und Rückwärtsdifferenz so gewählt werden, dass $f$ an $x_0$ und $x_0+h$ bzw. $x_0-h$ ausgewertet werden kann. Bei der zentralen Differenz ist $x_0$ hingegen frei wählbar, aber $x_0+h$ und $x_0-h$ müssen die Auswertung von $f$ erlauben. Zu diesem Zweck können auch zwei verschiedene $h$ gewählt werden:

Zu vorgegebenen Schrittweiten $h_+>0$ und $h_->0$ berechne
$f'(x_0)\approx\frac{f(x_0+h_+)-f(x_0-h_-)}{h_++h_-}.$
(5)

Auch in diesem Fall kann die zentrale Differenz als (gewichteter) Mittelwert aus entsprechender Vorwärts- und Rückwärtsdifferenz interpretiert werden (IDVID 315).

3.2Approximationsfehler¶

Untersuchen den Fehler, der beim Ersetzen der Ableitung $f'(x_0)$ durch einen Differenzenquotient entsteht.

Da die Aussage nur an einer konkreten Stelle $x_0$ gilt, spricht man auch vom lokalen Approximationsfehler.

Für die drei verschiedenen Differenzenquotienten erhält man:

Vorwärtsdifferenz:
$|f'(x_0)-D(x_0,h)|\leq c\,h$
(7)
mit
$c=\frac{1}{2}\,\max_{\xi\in[x_0,x_0+h_{\mathrm{max}}]}|f''(\xi)|,$
(8)
sofern $f$ zweimal stetig differenzierbar ist.
Rückwärtsdifferenz:
$|f'(x_0)-D(x_0,h)|\leq c\,h$
(9)
mit
$c=\frac{1}{2}\,\max_{\xi\in[x_0-h_{\mathrm{max}},x_0]}|f''(\xi)|,$
(10)
sofern $f$ zweimal stetig differenzierbar ist.
Zentrale Differenz:
$|f'(x_0)-D(x_0,h)|\leq c\,h^2$
(11)
mit
$c=\frac{1}{6}\,\max_{\xi\in[x_0-h_{\mathrm{max}},x_0+h_{\mathrm{max}}]}|f'''(\xi)|,$
(12)
sofern $f$ dreimal stetig differenzierbar ist.

(IDVID 330). Bei den einseitigen Differenzen halbiert sich der Approximationsfehler also, wenn die Schrittweite halbiert wird. Bei der zentralen Differenz sinkt der Fehler auf ein Viertel bei Halbieren der Schrittweite, sofern $f$ glatt genug ist.

Beispiel

Fehler für $h\in(0,0.2]$ bei der näherungsweisen Berechnung von $f'(0.1)$ für $f(x)=\sin(\pi\,x)$ :

import numpy as np
import matplotlib.pyplot as plt

f = lambda x: np.sin(np.pi * x)
f1 = lambda x: np.pi * np.cos(np.pi * x)
f2 = lambda x: -np.pi ** 2 * np.sin(np.pi * x)
f3 = lambda x: -np.pi ** 3 * np.cos(np.pi * x)
x0 = 0.1

exact = f1(x0)
h = np.linspace(0, 0.2, 100)[1:]  # drop h=0

forw = (f(x0 + h) - f(x0)) / h
backw = (f(x0) - f(x0 - h)) / h
central = (f(x0 + h) - f(x0 - h)) / (2 * h)

fig, ax = plt.subplots()

ax.plot(h, np.abs(exact - forw), '-', label='vorwärts')
ax.plot(h, np.abs(exact - backw), '-', label='rückwärts')
ax.plot(h, np.abs(exact - central), '-', label='zentral')
ax.plot(h, 1/2 * np.abs(f2(x0)) * h, ':', color='gray', label='$c\\,h$')
ax.plot(h, 1/6 * np.abs(f3(x0)) * h ** 2, ':', color='gray', label='$c\\,h^2$')

ax.set_xlabel('$h$')
ax.set_ylabel('Approximationsfehler')
ax.set_xlim(0, 0.2)
ax.legend()

plt.show()

Man kann die lokalen Aussagen für den Approximationsfehler zu globalen Aussagen erweitern:

Merke!

Für zweimal stetig differenzierbares $f:[a,b]\to\bbR$ gilt:

Vorwärtsdifferenz:
$|f'(x)-D(x,h)|\leq\max_{\xi\in[a,b]}|f''(\xi)|\,h$
(13)
für $h>0$ und $x\in[a,b-h]$ ,
Rückwärtsdifferenz:
$|f'(x)-D(x,h)|\leq\max_{\xi\in[a,b]}|f''(\xi)|\,h$
(14)
für $h>0$ und $x\in[a+h,b]$ .

Für dreimal stetig differenzierbares $f:[a,b]\to\bbR$ gilt:

zentrale Differenz:
$|f'(x)-D(x,h)|\leq\max_{\xi\in[a,b]}|f'''(\xi)|\,h$
(15)
für $h>0$ und $x\in[a+h,b-h]$ .

Daraus sieht man sofort, dass

die einseitigen Differenzen exakte Ableitungswerte für lineare Funktionen liefern,
die zentrale Differenz exakte Werte für lineare und quadratische Funktionen liefert.

3.3Ableitungen höherer Ordnung¶

Näherungswerte für höhere Ableitungen kann man leicht durch mehrfaches Anwenden der Differenzenquotienten für die erste Ableitung erhalten. Eine übliche Approximation für die zweite Ableitung ist

D^2(x_0,h):=\frac{f(x_0+h)-2\,f(x_0)+f(x_0-h)}{h^2}.

(16)

Diese erhält auf allen der folgendenen Wege:

erst Vorwärtsdifferenz, dann Rückwärtsdifferenz,
erst Rückwärtsdifferenz, dann Vorwärtsdifferenz,
zweimal zentrale Differenz mit halber Schrittweite

(IDVID 340). Der Approximationsfehler verhält sich hier quadratisch, falls $f$ wenigstens viermal stetig differenzierbar ist:

|f''(x_0)-D^2(x_0,h)|\leq c\,h^2\quad\text{für alle }h\in(0,h_{\mathrm{max}}]

(17)

mit

c=\max_{\xi\in[x_0-h_{\mathrm{max}},x_0+h_{\mathrm{max}}]}|f^{(4)}(\xi)|

(18)

(IDVID 345).

Aus der Fehlerabschätzung sieht man sofort, dass $D^2(x_0,h)$ für Polynome dritten Grades exakte Werte liefert.

Falls $f$ nur dreimal stetig differenzierbar ist, erhält man nur einen Approximationsfehler der Ordnung 1. Ist $f$ mehr als viermal stetig differenzierbar, folgt trotzdem nur quadratische Ordnung für den Approximationsfehler (Analoges gilt für die Approximation der ersten Ableitung).

3 Numerische Differentiation

3.1Idee¶

3.2Approximationsfehler¶

3.3Ableitungen höherer Ordnung¶