PRESS-Statistik

Unter der PRESS-Statistik (PRESS: Predicted Residual Sum of Squares englisch für vorhergesagte Residuenquadratsumme) oder auch prädiktive Residuenquadratsumme(englisch predictive residual sum of squares) versteht man ein Maß zur Anpassung eines bestimmten Modells an eine Stichprobe, die bei der Modellschätzung nicht berücksichtigt wurde. Der wesentliche Unterschied zu einer normalen Residuenquadratsumme besteht darin, dass zur Berechnung der PRESS-Statistik ausschließlich gemessene und geschätzte Werte benutzt werden, die für das Modell „neu“ sind. Das heißt, das Modell wurde anhand eines Trainingsdatensatzes geschätzt. Dann werden neue Beobachtungen hinzugezogen (Testdatensatz), für die man Schätzungen mit dem „trainierten“ Modell durchführt.

Manchmal wird PRESS auch als das Ergebnis bzw. eine Form einer Leave-One-Out-Kreuzvalidierung bezeichnet und zu dieser Kreuzvalidierung synonym verwendet. Das PRESS-Konzept lässt sich aber auch für andere Vorhersagen benutzen.

Berechnung

Die PRESS-Statistik wird wie folgt berechnet:

${\text{PRESS}}=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}$.

Dies entspricht einer Quadratsumme, wobei $y_{i}$ für die neuen Beobachtungswerte steht und ${\widehat {y}}_{i}$ für deren vorhergesagte Werte. Um den oben erwähnten Unterschied zur gewöhnlichen Residuenquadratsumme (residual sum of squares, kurz RSS) deutlich zu machen, kann man die Formel auch anders ausdrücken:

${\text{PRESS}}={\text{RSS}}_{\text{test}}=\sum _{i=1}^{n}(y_{i,{\text{test}}}-{\hat {y}}_{i,{\text{test}}})^{2}$.

Hier soll verdeutlicht werden, dass Werte für einen externen Datensatz vorhergesagt wurden. Der Unterschied zur normalen Residuenquadratsumme besteht lediglich im Kontext der betrachteten Daten und nicht in der Rechenvorschrift.

Verwendung

Mithilfe der PRESS-Statistik lassen sich durch weitere Berechnungen auch der mittlere quadratische Prognosefehler (englisch mean squared error of prediction, kurz: MSEP) und die Wurzel des mittleren quadratischen Prognosefehlers (englisch root mean squared error of prediction, kurz: RMSEP) berechnen. Dies sind Maße um die Vorhersagefähigkeit von Modellen (z. B. bei einer Hauptkomponentenregression) zu beurteilen. Da die PRESS-Statistik allerdings die Größe des Datensatzes nicht berücksichtigt, ist diese Kennzahl nur zum Vergleich von Modellen mit gleich vielen Beobachtungen geeignet.

Außerdem kommt die PRESS-Statistik bei der partiellen Kleinste-Quadrate-Schätzung (kurz: PKQ) zur Kreuzvalidierung (Verifikation) von Stichproben zum Einsatz.

Die PRESS-Statistik kann auch einen Hinweis auf Überanpassung bei einer durchgeführten Regression liefern. Modelle die zu viele Parameter enthalten tendieren dazu, geringe Residuen zu den Beobachtungen zu haben (niedrige ${\text{RSS}}_{\text{train}}$), die für das Modell verwendet wurden, aber relativ große Residuen zu neuen Beobachtungen (hohe ${\text{RSS}}_{\text{test}}$).