Multipler Korrelationskoeffizient
# Multipler Korrelationskoeffizient

Der multiple Korrelationskoeffizient ist in der multivariaten Statistik ein Korrelationskoeffizient, welcher die lineare Abhängigkeit zwischen einer Zufallsvariable und einer Menge anderer Zufallsvariablen misst. Konkret bedeutet das für einen Zufallsvektor $(X_{1},\dots ,X_{n})^{\mathrm {T} }$, dass der multiple Korrelationskoeffizient die maximale Korrelation zwischen einer Zufallsvariable $X_{i}$ für $i\leq k$ und jeder beliebigen linearen Funktion von $X_{k+1},\dots ,X_{n}$ ist. Als Spezialfall erhält man den multiplen Korrelationskoeffizient zwischen $X_{1}$ und $X_{2},\dots ,X_{n}$. Im Gegensatz zu den gewöhnlichen Korrelationskoeffizienten liegt der multiple Korrelationskoeffizient zwischen $0$ und $1$. Der multiple Korrelationskoeffizient wird mit ${\overline {R}}_{i\cdot (k+1\cdots n)}$ notiert.
Der multiple Korrelationskoeffizient wurde 1896 von Karl Pearson für drei Variablen eingeführt und 1897 von George Udny Yule erweitert.

## Definition

Sei $\mathbf {X} =(X_{1},X_{2},\dots ,X_{n})^{\mathrm {T} }$ ein Zufallsvektor mit positiv definiter Kovarianzmatrix ${\boldsymbol {\Sigma }}$ und $1\leq i\leq k<n$.
Wir machen folgende Zerlegung
    $\mathbf {X} ={\begin{pmatrix}\mathbf {X} _{1}\\\mathbf {X} _{2}\end{pmatrix}},\qquad {\boldsymbol {\Sigma }}={\begin{pmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{12}\\{\boldsymbol {\Sigma }}_{21}&{\boldsymbol {\Sigma }}_{22}\end{pmatrix}},\qquad \mathbf {X_{1}} =(X_{1},\dots ,X_{k})^{\mathrm {T} },\quad \mathbf {X_{2}} =(X_{k+1},\dots ,X_{n})^{\mathrm {T} }.$
Der multiple Korrelationskoeffizient ${\overline {R}}_{i\cdot (k+1\cdots n)}$ zwischen $X_{i}$ und $X_{k+1},\dots ,X_{n}$ ist die maximale Korrelation zwischen $X_{i}$ und jeder linearen Funktion ${\boldsymbol {\alpha }}^{\mathrm {T} }\mathbf {X_{2}}$.
In mathematischen Formeln ausgedrückt
    ${\overline {R}}_{i\cdot (k+1\cdots n)}:=\max \limits _{\boldsymbol {\alpha }}{\frac {\operatorname {Cov} (X_{i},{\boldsymbol {\alpha }}^{\mathrm {T} }\mathbf {X_{2}} )}{\left(\operatorname {Var} (X_{i})\operatorname {Var} ({\boldsymbol {\alpha }}^{\mathrm {T} }\mathbf {X_{2}} )\right)^{1/2}}}=\max \limits _{\boldsymbol {\alpha }}{\frac {{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\sigma }}_{i}}{(\sigma _{ii}{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}{\boldsymbol {\alpha }})^{1/2}}},$
wobei ${\boldsymbol {\sigma }}_{i}^{\mathrm {T} }$ die $i$-te Reihe von ${\boldsymbol {\Sigma }}_{12}$ ist und $\operatorname {Var} (X_{i})=\sigma _{ii}$.
Wendet man die Cauchy-Schwarz-Ungleichung an
    ${\frac {{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\sigma }}_{i}}{(\sigma _{ii}{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}{\boldsymbol {\alpha }})^{1/2}}}={\frac {{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}^{1/2}{\boldsymbol {\Sigma }}_{22}^{-1/2}{\boldsymbol {\sigma }}_{i}}{(\sigma _{ii}{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}{\boldsymbol {\alpha }})^{1/2}}}\leq {\frac {\left({\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}{\boldsymbol {\alpha }}\right)^{1/2}\left({\boldsymbol {\sigma }}_{i}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\sigma }}_{i}\right)^{1/2}}{(\sigma _{ii}{\boldsymbol {\alpha }}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}{\boldsymbol {\alpha }})^{1/2}}}=\left({\frac {{\boldsymbol {\sigma }}_{i}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\sigma }}_{i}}{\sigma _{ii}}}\right)^{1/2},$
so erhält man eine Obergrenze, die erreicht wird, wenn ${\boldsymbol {\alpha }}={\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\sigma }}_{i}$.
Daraus folgt
    ${\overline {R}}_{i\cdot (k+1\cdots n)}=\left({\frac {{\boldsymbol {\sigma }}_{i}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\sigma }}_{i}}{\sigma _{ii}}}\right)^{1/2}.$

### Eigenschaften

* Es gilt
       $0\leq {\overline {R}}_{i\cdot (k+1\cdots n)}\leq 1$
    und ${\overline {R}}_{i\cdot (k+1\cdots n)}=0\iff {\boldsymbol {\Sigma }}_{12}=\mathbf {0}$.
* Man kann zeigen, dass wenn die Regressionsfunktion $\mathbb {E} [X_{i}\mid \mathbf {X_{2}} ]$ eine lineare Funktion ist, dann ist der multiple Korrelationskoeffizient gerade der Korrelationskoeffizient zwischen $X_{i}$ und $\mathbb {E} [X_{i}\mid \mathbf {X_{2}} ]$.
* Es gilt
       $1-{\overline {R}}_{i\cdot (k+1\cdots n)}^{2}={\frac {\operatorname {det} ({\boldsymbol {\Sigma }}_{i})}{\sigma _{ii}\operatorname {det} ({\boldsymbol {\Sigma }}_{22})}},\quad$ wobei $\quad {\boldsymbol {\Sigma }}_{i}:={\begin{pmatrix}\sigma _{ii}&{\boldsymbol {\sigma }}_{i}^{\mathrm {T} }\\{\boldsymbol {\sigma }}_{i}&{\boldsymbol {\Sigma }}_{ii}\end{pmatrix}}.$

### Spezialfall X$_1$ und X$_2$,...,X$_n$

Möchten wir ${\overline {R}}_{1\cdot (2\cdots n)}$ herleiten, das heißt den multiplen Korrelationskoeffizient zwischen $X_{1}$ und $X_{2},\dots ,X_{n}$, dann machen wir folgende Zerlegung
    $\mathbf {X} ={\begin{pmatrix}X_{1}\\\mathbf {X} _{2}\end{pmatrix}},\qquad {\boldsymbol {\Sigma }}={\begin{pmatrix}\sigma _{11}&{\boldsymbol {\sigma }}_{12}^{\mathrm {T} }\\{\boldsymbol {\sigma }}_{12}&{\boldsymbol {\Sigma }}_{22}\end{pmatrix}},$
da ${\boldsymbol {\sigma }}_{12}$ ein $(n-1)\times 1$-dimensionaler Vektor ist, verzichten wir auf die Notation ${\boldsymbol {\Sigma }}_{12}$.
Es gilt dann
    ${\overline {R}}_{1\cdot (2\cdots n)}=\left({\frac {{\boldsymbol {\sigma }}_{12}^{\mathrm {T} }{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\sigma }}_{12}}{\sigma _{11}}}\right)^{1/2}.$

### Multipler Korrelationskoeffizient für eine Stichprobe

Seien $\mathbf {X} _{1},\dots ,\mathbf {X} _{N}$ unabhängige Stichproben von $\mathbf {X}$ und
    $\mathbf {S} ={\frac {1}{(N-1)}}\sum \limits _{i=1}^{N}(\mathbf {X} _{i}-{\overline {\mathbf {X} }})(\mathbf {X} _{i}-{\overline {\mathbf {X} }})^{\mathrm {T} }$
die korrigierte Stichprobenkovarianzmatrix. Dann machen wir folgende Zerlegung
    $\mathbf {S} ={\begin{pmatrix}\mathbf {S} _{11}&\mathbf {S} _{12}\\\mathbf {S} _{21}&\mathbf {S} _{22}\end{pmatrix}}$
und der multiple Korrelationskoeffizient einer Stichprobe ist dann
    $R_{i\cdot (k+1\cdots n)}=\left({\frac {\mathbf {s} _{i}^{\mathrm {T} }{\boldsymbol {S}}_{22}^{-1}\mathbf {s} _{i}}{s_{ii}}}\right)^{1/2},$
wobei $\mathbf {s} _{i}^{\mathrm {T} }$ die $i$-te Reihe von $\mathbf {S} _{12}$ ist.
Wenn eine Normalverteilung zugrunde liegt, dann ist $R_{i\cdot (k+1\cdots n)}$ der Maximum-Likelihood-Schätzer von ${\overline {R}}_{i\cdot (k+1\cdots n)}$.