Verallgemeinerte lineare Modelle

Verallgemeinerte lineare Modelle (VLM), auch generalisierte lineare Modelle (GLM oder GLiM) sind in der Statistik eine von John Nelder und Robert Wedderburn (1972) eingeführte wichtige Klasse von nichtlinearen Modellen, die eine Verallgemeinerung des klassischen linearen Regressionsmodells in der Regressionsanalyse darstellt. Von spezieller Bedeutung ist die Verwendung einer nichtlinearen Kopplungsfunktion. Während man in klassischen linearen Modellen annimmt, dass die Störgröße (die unbeobachtbare Zufallskomponente) normalverteilt ist, kann sie in GLMs eine Verteilung aus der Klasse der Exponentialfamilie besitzen. Diese Verteilungsklasse beinhaltet neben der Normalverteilung auch die Binomial-, Poisson-, Gamma- und inverse Gaußverteilung. Damit bietet die Verwendung der Exponentialfamilie in verallgemeinerten linearen Modellen ein einheitliches Rahmenwerk für diese Verteilungen. Die große Klasse von vektorverallgemeinerten linearen Modellen (englisch vector generalized linear models, kurz VGLMs) beinhaltet die Klasse der verallgemeinerten linearen Modelle als Spezialfall. Ebenso in dieser großen Modellklasse enthalten sind loglineare Modelle für kategoriale Daten und das Modell der Poisson-Regression für Zähldaten. Um die Einschränkungen der verallgemeinerten linearen Modelle und verallgemeinerten additiven Modelle zu überwinden, wurden sogenannte Verallgemeinerte additive Modelle für Lage-, Skalen- und Formparameter entwickelt.

Begriffsklärung

Verallgemeinerte lineare Modelle sind nicht mit dem allgemeinen linearen Modell zu verwechseln, dessen natürliche englische Abkürzung ebenfalls GLM ist, aber im Gegensatz zu verallgemeinerten linearen Modellen von der Voraussetzung einer normalverteilten Antwortvariablen ausgeht. In vielen statistischen Programmpaketen werden – da die Abkürzung GLM schon für das allgemeine linearen Modell belegt ist – zur besseren Unterscheidung andere Abkürzungen wie VLM bzw. GLZ für englisch GeneraLiZed linear models (in STATISTICA) oder GzLM für englisch GeneraLiZed Linear Models (in SPSS) verwendet. Manche Autoren verwenden zu besseren Unterscheidung statt der Abkürzung GLM die Abkürzung GLiM.

Ebenso sind verallgemeinerte lineare Modelle nicht mit dem verallgemeinerten linearen Regressionsmodell der verallgemeinerten Kleinste-Quadrate-Schätzung (VKQ-Schätzung) zu verwechseln, bei der jedoch eine verallgemeinerte Struktur bzgl. der Störgrößen vorliegt.

Modellkomponenten

Die Modellklasse der verallgemeinerten linearen Modelle besteht aus drei Komponenten:

• Zufallskomponente: Wie bei den klassischen linearen Modellen nimmt man unabhängige Zufallsvariablen $Y_{1},Y_{2},\ldots ,Y_{n}$ mit Erwartungswert $\operatorname {E} (Y_{i})=\mu _{i}$ an, die eine Dichtefunktion aus der Exponentialfamilie (z. B. eine Binomial-, Poisson-, oder Gamma-Verteilung) besitzen.

• Systematische Komponente: Gegeben ist der Kovariablenvektor $\mathbf {x} _{i}^{\top }=(1,x_{i1},\ldots ,x_{ik})_{(k+1\times 1)}$ (siehe Das klassische Modell der linearen Mehrfachregression), der die Verteilung der $Y_{i}$ nur durch eine lineare Funktion beeinflusst. Diese lineare Funktion heißt linearer Prädiktor und ist in der multiplen linearen Regression in folgender Form gegeben:

$\eta _{i}=\beta _{0}+x_{i1}\beta _{1}+x_{i2}\beta _{2}+\dotsc +x_{ik}\beta _{k}=\mathbf {x} _{i}^{\top }{\boldsymbol {\beta }}$. Hier erkennt man, dass der lineare Prädiktor den Vektor der Regressionskoeffizienten ${\boldsymbol {\beta }}=\left(\beta _{0}\,\beta _{1},\dots ,\beta _{k}\right)^{\top }$ in das Modell miteinführt.

• Kopplungsfunktion: Für ein verallgemeinertes lineares Modell ist eine (oft nichtlineare) Kopplungsfunktion $g(\cdot )$ vorhanden, die die durch den linearen Prädiktor $\eta _{i}$ beschriebene systematische Komponente und die durch den Erwartungswert $\mu =\operatorname {E} (Y_{i})$ der Antwortvariablen beschriebene stochastische Komponente der Verteilung von $Y_{i}$ koppelt: $g(\mu )=\eta _{i}$. Die Umkehrfunktion der Kopplungsfunktion, die sogenannte Antwortfunktion $h(\cdot )$ überführt die Linearkombination der erklärenden Variablen in den (bedingten) Erwartungswert $\mu =\operatorname {E} (Y_{i})$: $\mu _{i}=h(\eta _{i})$.

Verteilungen aus der Familie der verallgemeinerten linearen Modelle

In die Modellklasse der verallgemeinerten lineare Modelle lassen sich einbetten die Normalverteilung, Binomial-Verteilung, Poisson-Verteilung, Gammaverteilung und die Inverse Normalverteilung, Bernoulli-Verteilung, Skalierte Poisson-Verteilung, Skalierte Binomial-Verteilung, Skalierte negative Binomial-Verteilung.

Exponentialfamilie

Die Verteilung einer Antwortvariablen $Y_{i}$ gehört zur eindimensionalen Exponentialfamilie, wenn sich die Dichtefunktion bzw. Wahrscheinlichkeitsfunktion in folgender Form schreiben lässt:

$f(y_{i}\mid \theta _{i})=\exp \left({\frac {y_{i}\theta _{i}-b(\theta _{i})}{\phi }}\cdot w_{i}+c(y_{i},\phi ,w_{i})\right)$.

Hierbei sind:

• $y_{i}$ die Beobachtungswerte der Antwortvariablen (bekannt)
• $w_{i}$ die spezifizierten Gewichte (bekannt)
• $b(\theta _{i})$ eine vorspezifizierte zweifach differenzierbare Funktion (bekannt)
• $\theta _{i}$ der reellwertige Verteilungsparameter der Dichte; der sogenannte kanonische (natürliche) Parameter (unbekannt)
• $\phi$ ein vom Erwartungswert unabhängiger Skalenparameter (auch Streuungsparameter genannt), der für die Varianz relevant ist (bekannt)
• und $c(y_{i},\phi ,w_{i})$ eine geeignete Funktion zur Normierung der Dichte (Normalisierungskonstante) und die nicht von $\theta _{i}$ abhängt (bekannt)

Für die Funktion $b(\theta _{i})$ ist notwendig, dass $f(y_{i}\mid \theta _{i})$ normalisiert werden kann und die erste $b^{\prime }(\theta _{i})={\frac {\mathrm {d} \,b(\theta _{i})}{\mathrm {d} \,\theta _{i}}}$ und zweite Ableitung $b^{\prime \prime }(\theta _{i})={\frac {\mathrm {d} ^{2}\,b(\theta _{i})}{\mathrm {d} \,\theta _{i}^{2}}}$ existiert. Die zweite Ableitung $b^{\prime \prime }(\theta _{i})$ bestimmt neben dem Skalenparameter $\phi$ die Varianz der Verteilung und wird daher als Varianzfunktion bezeichnet. Für alle Verteilungen der Exponentialfamilie gilt:

1. $\operatorname {E} (Y_{i})=\mu =b^{\prime }(\theta _{i})$
2. $\operatorname {Var} (Y_{i})=\sigma ^{2}=\phi \cdot b^{\prime \prime }(\theta _{i})/w_{i}$

Der Parameter $\phi$ ist nicht primär von Interesse und wird daher als Störparameter betrachtet. Beispiele für Verteilungen, die zur Exponentialfamilie gehören:

Verteilung $\operatorname {E} (Y_{i})=\mu$	Kanonischer Parameter $\theta _{i}$	Skalenparameter $\phi$	vorspezifizierte Funktion $a(\phi )$	vorspezifizierte Funktion $b(\theta _{i})$	Normalisierungskonstante $c(y_{i},\phi ,w_{i})$	Wahrscheinlichkeitsfunktion $f(y_{i})$
Normalverteilung	$\mu$	$\sigma ^{2}$	$\phi$	${\frac {\theta _{i}^{2}}{2}}$	${\frac {-y_{i}^{2}}{2\phi }}-\log \left({\sqrt {2\pi \phi }}\right)$	${\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\exp \left(-{\frac {(y_{i}-\mu )^{2}}{2\sigma ^{2}}}\right)$
Bernoulli-Verteilung	$\log \left({\frac {\mu }{1-\mu }}\right)$	$-$	$1$	$\log(1+e^{\theta _{i}})$	$0$	$\mu ^{y_{i}}(1-\mu )^{1-y_{i}}\,$ mit $y_{i}=0{\text{ oder }}1$
Binomialverteilung	$\log \left({\frac {\mu }{n-\mu }}\right)$	$-$	$1$	$n\log(1+e^{\theta _{i}})$	$\log {\binom {n}{y_{i}}}$	${\binom {n}{y_{i}}}\left({\frac {\mu }{n}}\right)^{y_{i}}\left(1-{\frac {\mu }{n}}\right)^{n-y_{i}}\;$ mit $\;y=0,1,\ldots ,n$
Poisson-Verteilung	$\log(\mu )$	$-$	$1$	$\exp(\theta _{i})$	$-\log(y_{i}!)$	${\frac {\mu ^{y_{i}}}{y_{i}!}}\exp(-\mu )$ mit $y_{i}=0,1,\ldots$

Literatur

• Peter McCullagh, John Nelder: Generalized Linear Models, Chapman and Hall/CRC Press, 2. Auflage 1989