Hauptkomponentenregression
# Hauptkomponentenregression

Die Hauptkomponentenregression (englisch principal component regression, kurz PCR) ist ein spezielles regressionsanalytisches Verfahren, das auf der Hauptkomponentenanalyse (PCA) basiert.

Normalerweise wird bei einer Regression versucht, eine abhängige Variable durch eine Menge an unabhängigen Variablen zu erklären, z. B. basierend auf einem einfachen linearen Regressionsmodell. Die PCR verwendet die PCA, um in einem Zwischenschritt die Regressionskoeffizienten zu schätzen.

Die PCR ist u. a. nützlich, wenn die Datenmatrix ein hohes Maß an Multikollinearität aufweist.

## Allgemeines Vorgehen

Die Hauptkomponentenregression kann grob in drei Schritte unterteilt werden:

* Durchführung einer PCA auf der Datenmatrix der erklärenden Variablen, um Hauptkomponenten zu extrahieren. Von diesen wird üblicherweise mittels eines geeigneten Auswahlkriteriums nur eine Teilmenge für die weitere Analyse ausgewählt.
* Die beobachteten Werte der abhängigen Variablen werden nun mit diesen ausgewählten Hauptkomponenten regressiert. Dazu wird eine gewöhnliche Kleinste-Quadrate-Schätzung verwendet. Es ergibt sich ein Vektor geschätzter Regressionskoeffizienten (mit der Anzahl der ausgewählten Hauptkomponenten als Dimension).
* Im letzten Schritt wird dieser Vektor zurücktransformiert, um einen Bezug zu den Ursprungsvariablen herzustellen. Dies geschieht über die PCA-Ladungen (Eigenwerte der ausgewählten Hauptkomponenten). So erhält man den finalen PCR-Schätzer, dessen Dimension wieder der Anzahl aller unabhängiger Variablen entspricht.

Die Partielle Kleinste-Quadrate-Regression bietet gegenüber der Hauptkomponentenregression den Vorteil, dass nicht nur die Variation im Eingaberaum betrachtet wird, sondern zusätzlich die Korrelation der Eingabe mit der Ausgabe.

