Median-Regression

Die Methode der kleinsten absoluten Abweichungen, auch Median-Regression, stellt ein robustes Schätzverfahren dar, um unbekannte Parameter einer linearen Regression zu schätzen. Solch ein Schätzer wird Kleinste-Absolute-Abweichungen-Schätzer (engl. least absolute deviations estimator, LAD) genannt. Er minimiert die Summe des Medians der absoluten Abweichungen.

Geschichte

Die Methode der kleinsten absoluten Abweichungen ist historisch gesehen viel älter als die Methode der kleinsten Quadrate. Sie wurde zuerst um 1760 von Rugjer Josip Bošković (1711–1787) vorgeschlagen. In moderner Terminologie wird dieser Ansatz als Median-Regression bezeichnet, da das Resultat der Minimierung zu einem Schätzer für den Median der abhängigen Variablen führt. Die Median-Regression ist ein Spezialfall der Quantilsregression.

Das Verfahren

Statt die Summe der quadrierten Abweichung für die Minimierung zu benutzen, ist ein erster naheliegender Ansatz die Summe der absoluten Abweichungen zu minimieren

${\hat {\boldsymbol {\beta }}}={\underset {\boldsymbol {\beta }}{\rm {arg\,min}}}\,\sum _{t=1}^{n}\left|\varepsilon _{t}\right|={\underset {\boldsymbol {\beta }}{\rm {arg\,min}}}\,\sum _{t=1}^{n}\left|y_{t}-\mathbf {x} _{t}^{\top }{\boldsymbol {\beta }}\right|$

mit dem Vektor der Regressoren $\mathbf {x} _{t}={\begin{pmatrix}\ x_{t1}\\\ x_{t2}\\\vdots \\\ x_{tk}\\\vdots \\\\x_{tK}\end{pmatrix}}_{(K\times 1)}\;\;\;$ und dem Vektor der Regressionskoeffizienten $\;\;\;{\boldsymbol {\beta }}={\begin{pmatrix}\beta _{1}\\\beta _{2}\\\vdots \\\beta _{k}\\\vdots \\\beta _{K}\end{pmatrix}}_{(K\times 1)}$

Das Resultat ist ein, im Vergleich zur Methode der kleinsten Quadrate, robuster Schätzer.