Zentraler Grenzwertsatz

Annäherung von symmetrischen (oben) und schiefen (unten) Binomialverteilungen (rot) an die Normalverteilung (grün)

Der zentrale Grenzwertsatz (von Lindeberg-Lévy) (auch CLT von englisch central limit theorem) ist ein bedeutendes Resultat der Wahrscheinlichkeitstheorie. Der zentrale Grenzwertsatz liefert die Begründung für das Phänomen, dass sich bei der additiven Überlagerung vieler kleiner unabhängiger Zufallseffekte zu einem Gesamteffekt zumindest approximativ eine Normalverteilung ergibt, wenn keiner der einzelnen Effekte einen dominierenden Einfluss auf die Varianz besitzt.

Der Satz ist benannt nach Lindeberg und Lévy.

Es existieren verschiedene Verallgemeinerungen, für die eine identische Verteilung keine notwendige Voraussetzung ist. Stattdessen wird dann eine andere Voraussetzung gefordert, die sicherstellt, dass keine der Variablen zu großen Einfluss auf das Ergebnis erhält. Beispiele sind die Lindeberg-Bedingung und die Ljapunow-Bedingung. Darüber hinausgehende Verallgemeinerungen gestatten sogar „schwache“ Abhängigkeit der Zufallsvariablen. Die Klasse der Verallgemeinerungen des zentralen Grenzwertsatzes wird zentrale Grenzwertsätze genannt.

Die Bezeichnung geht auf G. Pólyas Arbeit Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem von 1920 zurück.

Der Zentrale Grenzwertsatz der Statistik bei identischer Verteilung

Sei $X_{1},X_{2},X_{3},\dots$ eine Folge von Zufallsvariablen, die auf demselben Wahrscheinlichkeitsraum mit dem Wahrscheinlichkeitsmaß $P$ alle dieselbe Wahrscheinlichkeitsverteilung aufweisen und unabhängig sind (u.i.v. = unabhängig und identisch verteilt, engl. i.i.d. = independent and identically distributed). Sei weiter angenommen, dass sowohl der Erwartungswert $\mu$ als auch die Standardabweichung $\sigma >0$ existieren und endlich sind.

Betrachten wir nun die $n$-te Teilsumme dieser Zufallsvariablen $S_{n}=X_{1}+X_{2}+\cdots +X_{n}$. Der Erwartungswert von $S_{n}$ ist $n\mu$ und die Varianz ist $n\sigma ^{2}$ (siehe Gleichung von Bienaymé). Bildet man daraus die standardisierte Zufallsvariable

$Z_{n}={\frac {S_{n}-n\mu }{\sigma {\sqrt {n}}}}={\frac {{\frac {1}{n}}S_{n}-\mu }{\frac {\sigma }{\sqrt {n}}}},$

dann besagt der Zentrale Grenzwertsatz, dass die Verteilungsfunktion von $Z_{n}$ für $n\to \infty$ punktweise gegen die Verteilungsfunktion $\Phi$ der Standardnormalverteilung ${\mathcal {N}}(0,1)$ konvergiert. Dies entspricht genau dem Begriff der Konvergenz in Verteilung in der Stochastik. Ist $\Phi$ die Verteilungsfunktion von ${\mathcal {N}}(0,1)$, dann bedeutet dies, dass für jedes reelle $z$

$\lim _{n\to \infty }P(Z_{n}\leq z)=\Phi (z).$

In etwas anderer Schreibweise erhält man

$\lim _{n\rightarrow \infty }P\left({\frac {{\overline {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}\leq z\right)=\Phi (z),$

wobei

${\overline {X}}_{n}={\frac {S_{n}}{n}}={\frac {X_{1}+\cdots +X_{n}}{n}}$

der Mittelwert der ersten $n$ Summanden der Zufallsvariablen ist.

Bemerkungen

• Der Beweis des Zentralen Grenzwertsatzes erfolgt meist auf Basis allgemeiner Sätze über die Eigenschaften von charakteristischen Funktionen. Auf deren Grundlage reicht es, die Momente beziehungsweise Kumulanten der Folgenglieder $Z_{n}$ und so die Koeffizienten der Taylorreihe der charakteristischen Funktion zu bestimmen. Letzteres ist aber einfach möglich (siehe Artikel Kumulante, Abschnitt Zentraler Grenzwertsatz).

• Der Zentrale Grenzwertsatz kann aber auch elementar, das heißt ohne das tiefliegende Hilfsmittel der charakteristischen Funktion, bewiesen werden. Dazu werden Erwartungswerte der Form $\operatorname {E} (f(Z_{n}))$ untersucht, die einerseits im Fall einer Indikatorfunktion $f=\mathbf {1} _{[a,b]}$ eines abgeschlossenen Intervalls $[a,b]$ der Wahrscheinlichkeit $P(a\leq Z_{n}\leq b)$ entsprechen und andererseits in Fällen einer genügend glatten Funktion $f$ gut approximiert werden können. Dieses Verfahren eines elementaren Beweises stammt von Jarl Waldemar Lindeberg.

• Endliche Stichprobenumfänge lassen die Frage nach der Konvergenzgüte aufsteigen. Unter bestimmten Bedingungen liefert der Satz von Berry-Esseen eine Antwort: Existiert das dritte zentrierte Moment $\operatorname {E} ((X_{1}-\mu )^{3})$ und ist es endlich, dann ist die Konvergenz zur Normalverteilung gleichmäßig und die Konvergenzgeschwindigkeit wenigstens von der Ordnung $1/{\sqrt {n}}$.

• Da für stochastisch unabhängige normalverteilte Zufallsvariablen die Summe wieder normalverteilt ist (da die Normalverteilung eine alpha-stabile Verteilung ist), gilt für diese der zentrale Grenzwertsatz im Endlichen, genauer ist $Z_{n}$ für jedes $n$ bereits standardnormalverteilt.

• Für stochastisch unabhängige bernoulli-verteilte Zufallsvariablen ist die Summe binomialverteilt und man erhält als Spezialfall des zentralen Grenzwertsatzes den Satz von Moivre-Laplace.

Verallgemeinerungen

→ Hauptartikel: Zentrale Grenzwertsätze

Eine Verallgemeinerung des Zentralen Grenzwertsatzes ist der mehrdimensionale zentrale Grenzwertsatz. Er liefert Aussagen über die Konvergenz der Verteilungen von Zufallsvektoren gegen die mehrdimensionale Standardnormalverteilung.

Eine weitere Verallgemeinerung ist der zentrale Grenzwertsatz von Lindeberg-Feller. Er lässt auch gewisse Abhängigkeiten zwischen den Zufallsvariablen zu, indem er sie zu Gruppen zusammenfasst und die Unabhängigkeit nur innerhalb dieser Gruppen fordert. Die Folge dieser Gruppen wird ein Schema von Zufallsvariablen genannt. Die Lindeberg-Bedingung und die Ljapunow-Bedingung lassen sich auch für Schemata von Zufallsvariablen formulieren und liefern damit Kriterien für die Konvergenz bei Verwendung von Schemata.

Beweis-Techniken für zentrale Grenzwertsätze

Um zentrale Grenzwertsätze zu beweisen gibt es verschiedene Möglichkeiten, zum Beispiel die Methode von Stein oder Techniken aus der Fourier-Analysis.

Literatur

• Hans Fischer, A History of the Central Limit Theorem. From Classical to Modern Probability Theory, New York 2011, ISBN 978-0-387-87856-0, doi:10.1007/978-0-387-87857-7.

Siehe auch

• Standardnormalverteilungstabelle

Weblinks

• Eric W. Weisstein: Central Limit Theorem. In: MathWorld (englisch).
• Yu.V. Prokhorov: Central limit theorem. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 978-1-55608-010-4 (englisch, online). 
• Beispiel zur Verdeutlichung des Zentralen Grenzwertsatzes
• Interaktives Experiment zum Zentralen Grenzwertsatz