Quelltext der Seite Hauptkomponentenanalyse

{{Quelle}}
{{überarbeiten}}
[[File:GaussianScatterPCA.svg|thumb|right|Hauptkomponentenanalyse als [[Faktorenanalyse]]: Zwei Hauptkomponenten einer [[mehrdimensionale Normalverteilung|zweidimensionalen Normalverteilung]] mit Mittelwert (1,3) und Standardabweichung circa 3 in (0.866,&nbsp;0.5)-Richtung und 1 in die dazu orthogonale Richtung. Die Vektoren sind die  [[Eigenvektor]]en der [[Kovarianzmatrix]] und haben als Länge die Wurzel des zugehörigen Eigenwertes. Sie sind so verschoben, dass sie am Mittelwert ansetzen.]]

Die '''Hauptkomponentenanalyse''' (kurz: ''HKA'', {{enS|''Principal Component Analysis''}}, kurz: '''PCA'''; das mathematische Verfahren ist auch als ''[[Hauptachsentransformation]]'' oder ''[[Singulärwertzerlegung]]'' bekannt) ist ein [[Multivariate Verfahren|Verfahren der multivariaten Statistik]]. Sie strukturiert umfangreiche Datensätze durch Benutzung der [[Eigenvektor]]en der [[Kovarianzmatrix]]. Dadurch können Datensätze vereinfacht und veranschaulicht werden, indem eine Vielzahl statistischer Variablen durch eine geringere Zahl möglichst aussagekräftiger [[Linearkombination]]en (die '''Hauptkomponenten''') genähert wird. Speziell in der [[Bildverarbeitung]] wird die Hauptkomponentenanalyse, auch '''[[Kari Karhunen|Karhunen]]-[[Michel Loève|Loève]]-Transformation''' genannt, benutzt. Sie ist von der Faktorenanalyse zu unterscheiden, mit der sie formale Ähnlichkeit hat und in der sie als Näherungsmethode zur Faktorenextraktion verwendet werden kann (der Unterschied der beiden Verfahren wird im Artikel [[Faktorenanalyse#Faktoren- versus Hauptkomponentenanalyse|Faktorenanalyse]] erläutert).

Es gibt verschiedene Verallgemeinerungen der Hauptkomponentenanalyse, z.&nbsp;B. die [[Principal Curves]], die [[Principal Surfaces]], [[t-distributed stochastic neighbor embedding]] oder die [[Kernbasierte Hauptkomponentenanalyse]] ({{lang|en|''kernel principal component analysis''}}, kurz: ''kernel PCA'').

== Geschichte ==
Die Hauptkomponentenanalyse wurde von [[Karl Pearson]] 1901 eingeführt<ref>Karl Pearson: ''On lines and planes of closest fit to a system of points in space''. In: ''The London, Edinburgh, and Dublin Philosophical Magazine and Journal of Science.'' Series 6, 2, 1901, S. 559–572, {{DOI|10.1080/14786440109462720}}</ref> und in den 1930er Jahren von [[Harold Hotelling]] weiterentwickelt. Wie andere statistische Analysemethoden erlangte sie weite Verbreitung erst mit der zunehmenden Verfügbarkeit von Computern im dritten Viertel des 20.&nbsp;Jahrhunderts. Die ersten Anwendungen entstammten der Biologie.

== Konzeption der Hauptkomponentenanalyse ==
Der zugrundeliegende Datensatz hat typischerweise die Struktur einer Matrix: An <math>n</math> Versuchspersonen oder Gegenständen wurden jeweils <math>p</math> Merkmale gemessen. Ein solcher Datensatz kann als Menge von <math>n</math> Punkten im <math>p</math>-dimensionalen Raum <math>\R^p</math> veranschaulicht werden. Ziel der Hauptkomponentenanalyse ist es, diese Datenpunkte so in einen <math>q</math>-dimensionalen Unterraum <math>\R^q</math> (<math>q < p</math>) zu projizieren, dass dabei möglichst wenig Information verloren geht und vorliegende [[Redundanz (Informationstheorie)|Redundanz]] in Form von [[Korrelation]] in den Datenpunkten zusammengefasst wird.

Mathematisch wird eine [[Hauptachsentransformation]] durchgeführt: Man minimiert die [[Korrelation]] mehrdimensionaler Merkmale durch Überführung in einen Vektorraum mit neuer [[Basis (Vektorraum)|Basis]]. Die Hauptachsentransformation lässt sich durch eine [[orthogonale Matrix]] angeben, die aus den [[Eigenvektor]]en der [[Kovarianzmatrix]] gebildet wird. Die Hauptkomponentenanalyse ist damit problemabhängig, weil für jeden Datensatz eine eigene Transformationsmatrix berechnet werden muss. Die Rotation des Koordinatensystems wird so ausgeführt, dass die Kovarianzmatrix diagonalisiert wird, d.&nbsp;h., die Daten werden dekorreliert (die Korrelationen sind die Außerdiagonaleinträge der Kovarianzmatrix). Für [[Normalverteilung|normalverteilte]] Datensätze bedeutet dies, dass die einzelnen Komponenten jedes Datensatzes nach der PCA voneinander statistisch unabhängig sind, da die Normalverteilung durch das nullte (Normierung), erste ([[Erwartungswert]]) und zweite Moment ([[Kovarianz (Stochastik)|Kovarianzen]]) vollständig charakterisiert wird. Sind die Datensätze ''nicht'' normalverteilt, werden die Daten auch nach der PCA&nbsp;– obwohl nun dekorreliert&nbsp;– noch immer statistisch abhängig sein. Die PCA ist also nur für normalverteilte Datensätze eine „optimale“ Methode.

== Verfahren ==
[[Datei:PcaIdea.png|mini|300px|Erste Hauptkomponente der Daten (schwarz-dunkelrote Linie) und der Mittelpunkt der Daten (dicker schwarzer Punkt)]]

=== Idee ===
Die Daten liegen als Punktwolke in einem <math>p</math>-dimensionalen kartesischen [[Koordinatensystem]] vor.

==== Beste lineare Approximation an den Datensatz ====
Das Berechnen der Hauptkomponenten kann man als iterativen Prozess auffassen. In der rechten Grafik wird für die Datenpunkte (nicht ausgefüllte Kreise) diejenige Gerade gesucht, die die Daten am besten approximiert. Der Fehler eines Datenpunktes ist der [[Euklidischer Abstand|euklidische Abstand]] zwischen der Geraden und den Datenpunkten. Für den Datenpunkt rechts oben ist der Fehler die rote Linie, die senkrecht auf der schwarzen Geraden steht. Die erste Hauptkomponente ist die Gerade, bei der die Summe der Quadrate dieser Fehler minimal ist.

Danach wird eine weitere Gerade gesucht, die auch durch den Mittelwert der Datenpunkte geht und orthogonal zur ersten Geraden ist: die zweite Hauptkomponente. Im Falle zweidimensionaler Daten ist dies einfach die senkrecht auf der ersten Hauptkomponente stehende Gerade. Ansonsten ist die jeweils nächste Hauptkomponente senkrecht zu allen bisherigen Hauptkomponenten; mit dieser Bedingung wird wieder die Gerade bestimmt, bei der die [[Summe der Abweichungsquadrate|Quadratsumme]] der Abstände minimal ist. So können die weiteren Geraden bis zur <math>p</math>-ten Hauptkomponente bestimmt werden.

==== Maximierung der Varianz ====
Die Distanz zwischen dem Zentrum der Daten und einem Datenpunkt ist unabhängig davon, welche Gerade durch das Zentrum als „Referenz“ betrachtet wird (siehe die rote Line vom Zentrum der Daten zum Datenpunkt rechts oben). Mittels des Satzes von Pythagoras können wir aber den Abstand zerlegen in den Anteil in Richtung der schwarzen Geraden und einen weiteren Anteil rechtwinklig dazu. Eine Minimierung der Abstände rechtwinklig zur Geraden (unter Beibehaltung des Abstands zum Datenzentrum, Länge der roten Linie) bedeutet also eine Maximierung der Abstände in Richtung der schwarzen Geraden (<math>a^2 + b^2 = c^2</math> muss erhalten bleiben). Die aufsummierten Quadrate der Abstände in Richtung der schwarzen Geraden bilden die Varianz der Daten in dieser Richtung.

Dies führt zum folgenden Algorithmus: Die erste Achse soll so durch die Punktwolke gelegt werden, dass die Varianz der Daten in dieser Richtung maximal wird. Die zweite Achse steht auf der ersten Achse senkrecht. In ihrer Richtung ist die Varianz am zweitgrößten usw.

Für die <math>p</math>-dimensionalen Daten gibt es also grundsätzlich <math>p</math> Achsen, die aufeinander senkrecht stehen, sie sind [[orthogonal]]. Die [[totale Varianz]] der Daten ist die Summe dieser „Achsenvarianzen“. Mit den <math>p</math> Achsen wird nun ein neues Koordinatensystem in die Punktwolke gelegt. Das neue Koordinatensystem kann als Rotation der Variablenachsen dargestellt werden.

Wird nun durch die ersten <math>r'</math> (<math>r' < p</math>) Achsen ein hinreichend großer Prozentsatz der totalen Varianz abgedeckt, erscheinen die Hauptkomponenten, die durch die neuen Achsen repräsentiert werden, ausreichend für den Informationsgehalt der Daten. Die totale [[Varianz (Stochastik)|Varianz]] der Daten ist also ein Maß für ihren [[Information]]sgehalt.

Häufig können die Hauptkomponenten inhaltlich nicht interpretiert werden. In der Statistik spricht man davon, dass ihnen keine verständliche Hypothese zugeschrieben werden kann (siehe [[Faktorenanalyse]]).

=== Statistisches Modell ===
Man betrachtet <math>p</math>&nbsp;[[Zufallsvariable]]n&nbsp;<math>X_j</math>, die bezüglich ihrer [[Erwartungswert]]e zentriert sind. Das heißt, ihre Erwartungswerte wurden von der Zufallsvariablen subtrahiert. Diese Zufallsvariablen werden in einem <span style="white-space:nowrap"><math>p</math>-dimensionalen</span> [[Zufallsvektor]] <math>\mathbf X</math> zusammengefasst. Dieser hat als [[Erwartungswertvektor]] den [[Nullvektor]] und die <math>(p \times p)</math>-[[Kovarianzmatrix]]&nbsp;<math>\mathbf \Sigma = E[\mathbf X \mathbf X^T]</math>, die [[Symmetrische Matrix|symmetrisch]] und [[positiv semidefinit]] ist. Die [[Eigenwert]]e&nbsp;<math>\lambda_j</math>, <math>j = 1, \dots, p</math>, der [[Matrix (Mathematik)|Matrix]]&nbsp;<math>\mathbf\Sigma</math> sind absteigend der Größe nach geordnet (häufig werden die Eigenwerte dann in einem [[Paretodiagramm]] dargestellt). Sie werden als Diagonalelemente in der [[Diagonalmatrix]]&nbsp;<math>\mathbf \Lambda</math> aufgeführt. Die zu ihnen gehörenden [[Eigenvektor]]en bilden die [[orthogonale Matrix]]&nbsp;<math>\mathbf\Gamma</math>. Es gilt dann
<math>\mathbf \Lambda = \mathbf\Gamma^T \mathbf\Sigma \mathbf\Gamma .</math>

Wird der Zufallsvektor <math>\mathbf X</math> [[Lineare Transformation|linear transformiert]] zu
<math>\mathbf X \mapsto \mathbf Y = \mathbf \Gamma^T \mathbf X </math>, [[Kovarianzmatrix#Grundlegende Eigenschaften|dann ist die Kovarianzmatrix von <math>\mathbf Y</math> gerade die Diagonalmatrix <math>\mathbf \Lambda</math>]], da für die
die Kovarianzmatrix des transformierten Zuvallsvektors gilt:
:<math>E[\mathbf\Gamma^T \mathbf X (\mathbf\Gamma^T \mathbf X)^T]=E[\mathbf\Gamma^T \mathbf X \mathbf X^T \mathbf\Gamma]=\mathbf\Gamma^T E[\mathbf X \mathbf X^T]\mathbf\Gamma =\mathbf\Gamma^T \Sigma \mathbf\Gamma=\mathbf \Lambda</math>.

Zur Verdeutlichung betrachten wir einen dreidimensionalen Zufallsvektor
: <math>\mathbf X =
  \begin{pmatrix}
    X_1\\
    X_2\\
    X_3
\end{pmatrix}
</math>.

Die Matrix der Eigenwerte der Kovarianzmatrix <math> \mathbf \Sigma </math> von <math> \mathbf X </math> ist
: <math>\mathbf \Lambda=
  \begin{pmatrix}
    \lambda_A&  0 &0 \\
    0 &\lambda_B& 0 \\
    0&0&\lambda_C
\end{pmatrix},
</math>
wobei <math>\lambda_A \ge \lambda_B \ge \lambda_C</math> ist.

Die normierten <math>(3 \times 1)</math>-Eigenvektoren <math>\boldsymbol \gamma_j</math> lassen sich als Spalten der Matrix <math>\mathbf \Gamma</math> zusammenfassen:
: <math>\mathbf \Gamma=
  \begin{pmatrix}
    \boldsymbol \gamma_A&\boldsymbol\gamma_B &\boldsymbol\gamma_C
\end{pmatrix}
</math>

: <math>
=
  \begin{pmatrix}
    \gamma_{1A}&\gamma_{1B}&\gamma_{1C}\\
    \gamma_{2A}&\gamma_{2B}&\gamma_{2C} \\
    \gamma_{3A}&\gamma_{3B}&\gamma_{3C}
\end{pmatrix}
</math>.

Die [[Matrix-Vektor-Multiplikation]]
: <math>\mathbf X \rightarrow \mathbf Y = \mathbf \Gamma^T \mathbf X </math>

ergibt die Gleichungen
: <math>Y_A=\gamma_{1A}X_1+\gamma_{2A}X_2+\gamma_{3A}X_3</math>
: <math>Y_B=\gamma_{1B}X_1+\gamma_{2B}X_2+\gamma_{3B}X_3</math>
: <math>Y_C=\gamma_{1C}X_1+\gamma_{2C}X_2+\gamma_{3C}X_3</math>.

Die Varianz von&nbsp;<math>Y_A</math> ist
: <math>\operatorname{Var}(Y_A) = \lambda_A .</math>

Also hat die Hauptkomponente&nbsp;<math>Y_A</math> den größten Anteil an der Gesamtvarianz der Daten, <math>Y_B</math> den zweitgrößten Anteil usw. Die Elemente&nbsp;<math>\gamma_{jk}</math>, <math>j=1,2,3</math>; <math>k=A,B,C</math>, könnte man als Beitrag der Variablen&nbsp;<math>X_j</math> am Faktor&nbsp;<math>k</math> bezeichnen. Die Matrix&nbsp;<math>\mathbf\Gamma</math> bezeichnet man in diesem Zusammenhang als Ladungsmatrix, sie gibt an, „wie hoch eine Variable&nbsp;<math>X</math> auf einen Faktor&nbsp;<math>Y</math> lädt“.

=== Schätzung der Modellparameter ===
Liegen konkret erhobene Daten mit <math>p</math> Merkmalen vor (d.&nbsp;h., jeder Datenpunkt ist ein <math>p</math>-dimensionaler [[Vektor]]), wird aus den Merkmalswerten die [[Stichproben-Korrelationsmatrix]] errechnet. Aus dieser Matrix bestimmt man dann die Eigenwerte und Eigenvektoren für die Hauptkomponentenanalyse. Da die [[Kovarianzmatrix]] eine symmetrische <math>p\times p</math>-Matrix ist, sind für ihre Berechnung insgesamt <math>(p^2+p)/2</math> Parameter zu schätzen. Dies ist nur dann sinnvoll, wenn die Anzahl <math>N</math> der Datenpunkte im Datensatz deutlich größer ist, d.&nbsp;h., wenn <math>N\gg (p^2+p)/2</math>. Anderenfalls ist die Bestimmung der Kovarianzmatrix stark fehlerbehaftet und diese Methode sollte nicht angewandt werden.

== Beispiele ==
Betrachtet werden Artillerieschiffe des [[Zweiter Weltkrieg|Zweiten Weltkriegs]] (siehe [[Portal:Statistik/Datensätze#Übersicht Datensätze|Kriegsschiffsdaten]]). Sie sind eingeteilt in die Klassen [[Schlachtschiff]]e, [[Schwerer Kreuzer|schwere Kreuzer]], [[Leichter Kreuzer|leichte Kreuzer]] und [[Zerstörer]]. Es liegen Daten für ca. 200 Schiffe vor. Es wurden die Merkmale Länge, Breite, [[Wasserverdrängung]], [[Tiefgang]], [[Leistung (Physik)|Leistung]] der Maschinen, Geschwindigkeit (längerfristig mögliche Höchstgeschwindigkeit), [[Reichweite (Transportwesen)|Aktionsradius]] und Mannschaftsstärke erfasst. Die Merkmale Länge, Breite, Wasserverdrängung und Tiefgang können so aufgefasst werden, dass sie alle einen ähnlichen Sachverhalt messen, den man als den Faktor „Größe“ beschreiben könnte. Die Frage ist, ob noch andere Faktoren die Daten bestimmen. Es gibt tatsächlich noch einen zweiten deutlichen Faktor, der vor allem durch die Leistung der Maschinen und die Höchstgeschwindigkeit bestimmt wird. Man könnte ihn zu einem Faktor „Geschwindigkeit“ zusammenfassen.

Andere Beispiele für Anwendungen der Hauptkomponentenanalyse sind:
* Wendet man die Hauptkomponentenanalyse auf das Kaufverhalten von Konsumenten an, gibt es möglicherweise latente Faktoren wie sozialer Status, Alter oder Familienstand, die bestimmte Käufe motivieren. Hier könnte man durch gezielte Werbung die Kauflust entsprechend kanalisieren.
* Hat man ein statistisches Modell mit sehr vielen Merkmalen, könnte mit Hilfe der Hauptkomponentenanalyse gegebenenfalls die Zahl der Variablen im Modell reduziert werden, was meistens die Modellqualität steigert.
* Anwendung findet die Hauptkomponentenanalyse auch in der [[Bildverarbeitung]] – insbesondere bei der [[Fernerkundung]]. Dabei kann man [[Satellitenbild]]er analysieren und Rückschlüsse daraus ziehen.
* Ein weiteres Gebiet ist die [[Künstliche Intelligenz]], zusammen mit den [[Künstliches neuronales Netz|Neuronalen Netzen]]. Dort dient die PCA zur [[Merkmalstrennung]] im Rahmen der automatischen [[Klassifizierung]] bzw. in der [[Mustererkennung]].

=== Beispiel mit drei Variablen ===
Das oben genannte Anwendungsbeispiel wird jetzt in Zahlen verdeutlicht:

Wir betrachten die Variablen Länge, Breite und Geschwindigkeit. Die [[Streudiagramm]]e geben einen Eindruck über die [[Gemeinsame Verteilung von Zufallsvariablen|gemeinsame Verteilung]] der Variablen wieder.

[[Datei:Lang-knoten.svg|400px|Streudiagramm Länge - Geschwindigkeit von Artillerieschiffen]] [[Datei:Lang-breit.svg|400px|Länge - Breite von Artillerieschiffen]]

Mit diesen drei Variablen wurde mithilfe eines [[Liste von Statistik-Software|Statistikprogramms]] eine Hauptkomponentenanalyse durchgeführt. Die Ladungsmatrix&nbsp;<math>\Gamma</math> ist

{| class="wikitable centered"
|-
| '''Faktor'''
| '''A'''
| '''B'''
| '''C'''
|-
| '''Länge'''
| 0,862
| 0.977
| –0.679
|-
| '''Breite'''
| 0.481
| 0,083
| 0.730
|-
| '''Geschwindigkeit'''
| –0.159
| 0.198
| 0.082
|}

Der Faktor <math>y_A</math> setzt sich also zusammen aus

: <math>Y_A = 0{,}862 \cdot \text{Länge} + 0{,}481 \cdot \text{Breite} - 0{,}159 \cdot \text{Geschwindigkeit} </math>.

Vor allem die Beiträge von Länge und Breite zum ersten Faktor sind groß. Beim zweiten Faktor ist vor allem der Beitrag der Länge groß. Der dritte Faktor wird am stärksten von der Variable Breite geladen.

Die Gesamtvarianz der Daten verteilt sich wie folgt auf die Hauptkomponenten:

{| class="wikitable centered"
|-
| '''Faktor'''
| '''Eigenwert <math>\lambda_j</math>'''
| '''Prozent der Gesamtvarianz'''
| '''Prozentualer Anteil der<br />Kumulierten Varianz<br />an Gesamtvarianz'''
|-
| '''A'''
| 2,16
| 71,97
| 71,97
|-
| '''B'''
| 0,77
| 25,67
| 97,64
|-
| '''C'''
| 0,07
| 2,36
| 100,00
|}

Es werden also durch die ersten zwei Hauptkomponenten bereits 97,64 % der gesamten Varianz der Daten abgedeckt. Der dritte Faktor trägt nichts Nennenswertes zum Informationsgehalt bei.

=== Beispiel mit acht Variablen ===

Es wurden nun acht Merkmale der Artillerieschiffe einer Hauptkomponentenanalyse unterzogen. Die Tabelle der Ladungsmatrix, hier „Komponentenmatrix“ genannt, zeigt, dass vor allem die Variablen Länge, Breite, Tiefgang, Wasserverdrängung und Mannschaftsstärke hoch auf die erste Hauptkomponente laden. Diese Komponente könnte man als „Größe“ bezeichnen. Die zweite Komponente wird zum größten Teil durch PS und Knoten erklärt. Sie könnte „Geschwindigkeit“ genannt werden. Eine dritte Komponente lädt noch hoch auf Aktionsradius.

Die beiden ersten Faktoren decken bereits ca. 84 % der Information der Schiffsdaten ab, der dritte Faktor erfasst noch einmal ca. 10 %. Der zusätzliche Beitrag der restlichen Komponenten ist unerheblich.
{| class="wikitable"
!colspan="9"|Komponentenmatrix
|-
!rowspan="2"|
!colspan="8"|Komponente
|-
! 1
! 2
! 3
! 4
! 5
! 6
! 7
! 8
|-
|Wasserverdrängung BRT
|style="text-align:right"|0,948
|style="text-align:right"| −0,094
|style="text-align:right"| −0,129
|style="text-align:right"|0,228
|style="text-align:right"|0,040
|style="text-align:right"|0,036
|style="text-align:right"|0,136
|style="text-align:right"|0,055
|-
|Länge m
|style="text-align:right"|0,906
|style="text-align:right"|0,302
|style="text-align:right"| −0,064
|style="text-align:right"| −0,209
|style="text-align:right"|0,128
|style="text-align:right"| −0,144
|style="text-align:right"| −0,007
|style="text-align:right"| −0,050
|-
|Breite m
|style="text-align:right"|0,977
|style="text-align:right"| −0,128
|style="text-align:right"| −0,031
|style="text-align:right"|0,032
|style="text-align:right"|0,103
|style="text-align:right"| −0,017
|style="text-align:right"| −0,014
|style="text-align:right"|0,129
|-
|Tiefgang m
|style="text-align:right"|0,934
|style="text-align:right"| −0,276
|style="text-align:right"| −0,061
|style="text-align:right"|0,014
|style="text-align:right"|0,074
|style="text-align:right"|0,129
|style="text-align:right"|0,154
|style="text-align:right"| −0,038
|-
|1000 PS
|style="text-align:right"|0,552
|style="text-align:right"|0,779
|style="text-align:right"| −0,196
|style="text-align:right"| −0,133
|style="text-align:right"| −0,099
|style="text-align:right"|0,143
|style="text-align:right"| −0,038
|style="text-align:right"|0,018
|-
|Knoten sm/h
|style="text-align:right"| −0,520
|style="text-align:right"|0,798
|style="text-align:right"| −0,157
|style="text-align:right"|0,222
|style="text-align:right"|0,109
|style="text-align:right"| −0,038
|style="text-align:right"|0,071
|style="text-align:right"|0,004
|-
|Aktionsradius 100 sm
|style="text-align:right"|0,398
|style="text-align:right"|0,311
|style="text-align:right"|0,862
|style="text-align:right"|0,038
|style="text-align:right"|0,008
|style="text-align:right"|0,022
|style="text-align:right"| −0,002
|style="text-align:right"| −0,005
|-
|Mannschaftsstärke
|style="text-align:right"|0,955
|style="text-align:right"|0,063
|style="text-align:right"| −0,052
|style="text-align:right"|0,108
|style="text-align:right"| −0,226
|style="text-align:right"| −0,121
|style="text-align:right"|0,067
|style="text-align:right"|0,002
|-
!colspan="9"| Extraktionsmethode: Hauptkomponentenanalyse
|-
!
!colspan="8"| Acht Komponenten extrahiert
|-
|}

{| class="wikitable"
!colspan="4"| Varianz der Komponenten
|-
!rowspan="2"| Komponente
!colspan="3"| Eigenwerte
|-
! Total
! % der Varianz
! Kumulativ
|-
!1
|style="text-align:right"|5,19
|style="text-align:right"|64,88
|style="text-align:right"|64,88
|-
!2
|style="text-align:right"|1,54
|style="text-align:right"|19,22
|style="text-align:right"|84,10
|-
!3
|style="text-align:right"|0,83
|style="text-align:right"|10,43
|style="text-align:right"|94,53
|-
!4
|style="text-align:right"|0,18
|style="text-align:right"|2,22
|style="text-align:right"|96,74
|-
!5
|style="text-align:right"|0,11
|style="text-align:right"|1,34
|style="text-align:right"|98,08
|-
!6
|style="text-align:right"|0,08
|style="text-align:right"|0,95
|style="text-align:right"|99,03
|-
!7
|style="text-align:right"|0,05
|style="text-align:right"|0,67
|style="text-align:right"|99,70
|-
!8
|style="text-align:right"|0,02
|style="text-align:right"|0,30
|style="text-align:right"|100,00
|}

== Anwendung in der Clusteranalyse und Dimensionsreduktion ==

[[Datei:PCA signal.png|mini|Zweidimensionales Beispiel für eine PCA. Die beiden Cluster haben eine geringe interne Streuung. Die erste Hauptkomponente wird x_1 sein, die zweite x_2. Der Hauptanteil der Gesamtstreuung liegt zwischen den Clustern (''Signalvarianz'' bzw. {{enS|''signal variance''}}).]]

[[Datei:PCA noise variance.png|mini|Zweidimensionales Beispiel für eine PCA. Die beiden Cluster haben eine sehr große interne Streuung. Die erste Hauptkomponente wird x_2 sein, die zweite x_1. Der Hauptanteil der Gesamtstreuung liegt innerhalb der Cluster (''Rauschvarianz'' bzw. {{enS|''noise variance''}}).]]

Die Hauptkomponentenanalyse (PCA) wird auch häufig in der [[Clusteranalyse]] und zur Reduzierung der Dimension des Parameterraums verwendet, insbesondere dann, wenn man noch keinerlei Vorstellung (Modell) von der Struktur der Daten hat. Dabei macht man sich zunutze, dass die PCA das (orthogonale) Koordinatensystem so dreht, dass die [[Kovarianzmatrix]] diagonalisiert wird. Außerdem sortiert die PCA die Reihenfolge der Koordinatenachsen (die Hauptkomponenten) so um, dass die erste Hauptkomponente den größten Anteil der Gesamtstreuung ([[Totale Varianz]]) im Datensatz enthält, die zweite Hauptkomponente den zweitgrößten Anteil usw. Wie an den Beispielen im vorigen Abschnitt illustriert wurde, kann man meist die hinteren Hauptkomponenten (also diejenigen, welche nur einen geringen Anteil an der Gesamtstreuung enthalten) ersatzlos streichen, ohne dass dadurch ein nennenswerter Informationsverlust entsteht.

Die '''Grundannahme''' für die Verwendung der PCA zur Clusteranalyse und Dimensionsreduktion lautet: ''Die Richtungen mit der größten Streuung (Varianz) beinhalten die meiste Information.''

In diesem Zusammenhang ist sehr wichtig, dass diese Grundannahme lediglich eine [[Arbeitshypothese]] ist, welche nicht immer zutreffen muss. Um diesen Sachverhalt zu veranschaulichen, folgen zwei Beispiele:

* ''Signal Variance'' ({{deS}} ''Signalvarianz''): Die Grafik rechts mit dem Titel ''PCA Signal Variance'' zeigt ein Beispiel, bei dem die Annahme zutrifft. Der Datensatz besteht aus zwei Clustern (rot und grün), die klar voneinander getrennt sind. Die Streuung der Datenpunkte innerhalb jedes Clusters ist sehr klein verglichen mit dem „Abstand“ der beiden Cluster. Entsprechend wird die erste Hauptkomponente x_1 sein. Außerdem ist klar ersichtlich, dass die erste Hauptkomponente x_1 völlig ausreichend ist, um die beiden Cluster voneinander zu trennen, während die zweite Hauptkomponente x_2 dazu keinerlei nützliche Information enthält. Die Anzahl der Dimensionen kann also von 2 auf 1 reduziert werden (durch Vernachlässigung von x_2), ohne dass man dabei wesentliche Informationen über die beiden Cluster verlieren würde. Die Gesamtvarianz des Datensatzes wird also vom Signal dominiert (zwei getrennte Cluster).

* ''Noise Variance'' ({{deS}} ''Rauschvarianz''): Die Grafik rechts mit dem Titel ''PCA Noise Variance'' zeigt ein Beispiel, bei dem die Annahme nicht zutrifft und die PCA nicht zur Dimensionsreduktion verwendet werden kann. Die Streuung innerhalb der beiden Cluster ist nun deutlich größer und trägt den Hauptanteil an der Gesamtstreuung. Unter der Annahme, dass diese Streuung innerhalb der Cluster durch Rauschen verursacht wird, nennt man diesen Fall ''noise variance''. Die erste Hauptkomponente wird x_2 sein, welche keinerlei Information über die Trennbarkeit beider Cluster beinhaltet.

Diese beiden Beispiele zeigen, wie man die PCA zur Reduzierung der Dimension und zur Clusteranalyse einsetzen kann bzw., dass dies nicht immer möglich ist. Ob die Grundannahme, dass die Richtungen der größten Streuung auch wirklich die interessantesten sind, zutrifft oder nicht, hängt vom jeweils gegebenen Datensatz ab und lässt sich oft nicht überprüfen – gerade dann, wenn die Anzahl der Dimensionen sehr hoch ist und sich die Daten demzufolge nicht mehr vollständig visualisieren lassen.

=== Zusammenhang mit der multidimensionalen Skalierung ===
Sowohl die [[multidimensionale Skalierung]] als auch die Hauptkomponentenanalyse verdichten die Daten. Werden in der (metrischen) multidimensionalen Skalierung euklidische Distanzen verwendet und ist die Dimension der Konfiguration gleich der Zahl der Hauptkomponenten, so liefern beide Verfahren die gleiche Lösung. Dies liegt daran, dass die Diagonalisierung der Kovarianzmatrix (bzw. [[Korrelationsmatrix]], falls mit standardisierten Daten gearbeitet wird) bei der Hauptkomponentenanalyse einer Rotation des Koordinatensystems entspricht. Dadurch bleiben die Distanzen zwischen den Beobachtungen, die den Ausgangspunkt in der multidimensionalen Skalierung bilden, gleich.

In der multidimensionalen Skalierung können jedoch auch andere Distanzen verwendet werden; insofern kann die Hauptkomponentenanalyse als Spezialfall der multidimensionalen Skalierung betrachtet werden.

== Siehe auch ==
* [[Clusteranalyse]]
* [[Diskriminanzanalyse]]
* [[Projection Pursuit]]
* [[Grand Tour (Statistik)]]
* [[Rotationsverfahren (Statistik)]]

== Literatur ==
* G. H. Dunteman: ''Principal Component Analysis''. Sage Publications, 1989
* L. Fahrmeir, A. Hamerle, G. Tutz (Hrsg.): ''Multivariate statistische Verfahren''. New York 1996
* A. Handl, T. Kuhlenkasper: ''Multivariate Analysemethoden. Theorie und Praxis mit R.'' 3. Auflage. Springer, Berlin 2017, ISBN 978-3-662-54753-3.
* J. Hartung, B. Elpelt: ''Multivariate Statistik''. München/Wien 1999
* T. Hastie, R. Tibshirani, J. Friedman: ''The Elements of Statistical Learning: Data Mining, Inference, and Prediction''. 2001
* W. Kessler: ''Multivariate Datenanalyse''. Weinheim 2007 (Eine Einführung in die PCA mit Beispiel-CD)
* W. J. Krzanowski: ''Principles of Multivariate Analysis''. Rev. ed. Oxford University Press, Oxford 2000
* K. V. Mardia, J. T. Kent, J. M. Bibby: ''Multivariate Analysis''. New York 1979

== Weblinks ==
* Lindsay I Smith: ''[https://web.archive.org/web/20210309115736/http://www.cs.otago.ac.nz/cosc453/student_tutorials/principal_components.pdf A tutorial on Principal Components Analysis.]'' (PDF; 117&nbsp;kB) (Internet Archive, archiviert am 9. März 2021)

== Einzelnachweise ==
<references />

[[Kategorie:Multivariate Statistik]]