Formelsammlung Stochastik
# Formelsammlung Stochastik

Dies ist eine Formelsammlung zu dem mathematischen Teilgebiet Stochastik einschließlich Wahrscheinlichkeitsrechnung, Kombinatorik, Zufallsvariablen und Verteilungen sowie Statistik.

## Notation

In der Stochastik gibt es neben der üblichen mathematischen Notation und den mathematischen Symbolen folgende häufig verwendete Konventionen:
* Zufallsvariablen werden in Großbuchstaben geschrieben: $X$, $Y$ etc.
* Realisierungen einer Zufallsvariablen werden mit den entsprechenden Kleinbuchstaben geschrieben, z. B. für die Beobachtungen in einer Stichprobe: $x_{1},x_{2},\ldots ,x_{n}$.
* Für die Bezeichnung von Wahrscheinlichkeitsfunktionen und Wahrscheinlichkeitsdichten werden Kleinbuchstaben benutzt, z. B. $f(x)$.
* Für die Bezeichnung von Verteilungsfunktionen werden Großbuchstaben benutzt, z. B. $F(x)$.
** Speziell die Wahrscheinlichkeitsdichte der Standardnormalverteilung wird die Bezeichnung $\varphi (z)$ und für die Verteilungsfunktion $\Phi (z)$ benutzt.
* Griechische Buchstaben (z. B. $\theta ,\beta$) werden benutzt, um unbekannte Parameter (Parameter der Grundgesamtheit) zu bezeichnen.
* Eine Schätzfunktion wird häufig mit einem Zirkumflex über dem entsprechenden Symbol bezeichnet, z. B. ${\hat {\theta }}$ (gesprochen: Theta Dach).
* Das arithmetische Mittel wird mit ${\bar {x}}$ bezeichnet (gesprochen: $x$ quer).

## Wahrscheinlichkeitsrechnung

Im Folgenden sei stets ein Wahrscheinlichkeitsraum $(\Omega ,\Sigma ,P)$ gegeben. Darin ist der Ergebnisraum $\Omega$ eine beliebige nichtleere Menge, $\Sigma$ eine σ-Algebra von Teilmengen von $\Omega$, die $\Omega$ enthält, und $P$ ein Wahrscheinlichkeitsmaß auf $\Omega .$

### Grundlagen

Axiome: Jedem Ereignis $A\in \Sigma$ wird eine Wahrscheinlichkeit $P(A)$ zugeordnet, so dass gilt:
    $0\leq P(A)\leq 1$,
    $P(\Omega )=1\,$,
    für paarweise disjunkte Ereignisse $A_{1},A_{2},\dots$ gilt $P(A_{1}\cup A_{2}\cup \dots )=P(A_{1})+P(A_{2})+\dots$
Rechenregeln: Aus den Axiomen ergibt sich:
    $P(\emptyset )=0$
    Für $A\subset B$ gilt $P(B\setminus A)=P(B)-P(A)$, insbesondere $P(A)\leq P(B)$
    Für das Gegenereignis ${\overline {A}}=\Omega \setminus A$ gilt $P({\overline {A}})=1-P(A)$
    $P(A\cup B)=P(A)+P(B)-P(A\cap B)$
Laplace-Experimente
    $P(A)={\frac {|A|}{|\Omega |}}={\frac {\text{Anzahl der günstigen Ergebnisse}}{\text{Anzahl der möglichen Ergebnisse}}}$
Bedingte Wahrscheinlichkeit
    $P(A\vert B)=P_{B}(A)={\frac {P(A\cap B)}{P(B)}}$
Satz von Bayes:
    $P(B\vert A)={\frac {P(B)P(A\vert B)}{P(B)P(A\vert B)+P({\overline {B}})P(A\vert {\overline {B}})}}$
Unabhängigkeit:
    Zwei Ereignisse $A,B$ sind unabhängig $\Leftrightarrow P(A\cap B)=P(A)\cdot P(B)$

### Kombinatorik

Fakultät: Anzahl der Möglichkeiten beim Ziehen aller $n$ Kugeln aus einer Urne (ohne Zurücklegen):
    $n!=n\cdot (n-1)\cdot (n-2)\cdot \dots \cdot 3\cdot 2\cdot 1=n\cdot (n-1)!$
wobei $0!=1!=1$
| | ohne Wiederholung (von n Elementen) $(a,b,c)$ | mit Wiederholung (von r + s + … + t = n Elementen, von denen jeweils r, s … t nicht unterscheidbar sind) $(a,a,b)$ |
| Permutation $(a,b)\neq (b,a)$ | $~n!~$ | ${\frac {(r+s+\ldots +t)!}{r!\cdot s!\cdot \ldots \cdot t!}}={\frac {n!}{r!\cdot s!\cdot \ldots \cdot t!}}$ |
Binomialkoeffizient „n über k“
    ${n \choose k}={n! \over k!(n-k)!}$
Anzahl der Möglichkeiten beim Ziehen von $k$ Kugeln aus einer Urne mit $n$ Kugeln:
| | ohne Wiederholung (ohne Zurücklegen) (siehe Hypergeometrische Verteilung) $(a,b,c)$ $\{a,b,c\}$ | mit Wiederholung (mit Zurücklegen) (siehe Binomialverteilung) $(a,a,b)$ $\{a,a,b\}$ |
| Variation $(a,b)\neq (b,a)$ | ${n \choose k}{\cdot k!}={\frac {n!}{\left(n-k\right)!}}$ | $~n^{k}~$ |
| Kombination $\{a,b\}=\{b,a\}$ | ${n \choose k}={\frac {n!}{{\left(n-k\right)!}\cdot k!}}$ | $\left(\!\!{n \choose k}\!\!\right)={n+k-1 \choose k}={\frac {\left(n+k-1\right)!}{\left(n-1\right)!\cdot k!}}$ |

## Zufallsvariablen
### Diskrete Zufallsgrößen

Eine Funktion $f$ heißt Wahrscheinlichkeitsfunktion einer diskreten Zufallsvariablen $X$, wenn folgende Eigenschaften erfüllt sind:
* Für alle $x\in \mathbb {Z}$ gilt $f(x)\geq 0$
* $\sum _{x\in \mathbb {Z} }f(x)=1$
Für die zugehörige Zufallsvariable gilt dann:
    $P(X=x)=f(x)$
Eine Zufallsgröße $X$ und deren Verteilung heißen diskret, falls die Funktion $f(x)=P(X=x)$ die Eigenschaft (2) hat. Man nennt $f(x)$ die Wahrscheinlichkeitsfunktion von $X$.
    $E(X)=\mu =\sum _{x\in \mathbb {Z} }\,x\cdot f(x)$
    $E(g(X))=\sum _{x\in \mathbb {Z} }\,g(x)\cdot f(x)$
    $V(X)=\sigma ^{2}=\sum _{x\in \mathbb {Z} }\,(x-\mu )^{2}\cdot f(x)$

### Stetige Zufallsgrößen

Eine Funktion $f$ heißt Dichte(-Funktion) einer stetigen Zufallsvariablen $X$, wenn folgende Eigenschaften erfüllt sind:
* Für alle $x\in \mathbb {R}$ gilt $f(x)\geq 0$
* $\int \limits _{-\infty }^{+\infty }f(x)\mathrm {d} x=1$
Für eine stetige Zufallsgröße gilt dann:
    $P(a\leq X\leq b)=\int \limits _{a}^{b}f(x)\mathrm {d} x$
Eine Zufallsgröße $X$ und deren Verteilung heißen stetig, falls es eine geeignete Dichtefunktion $f$ mit dieser Eigenschaft gibt. Die Funktion $f$ heißt Dichte(Funktion) von $X$.
Für die Wahrscheinlichkeit gilt
    $P(X=a)=0\,$ für alle $a\in \mathbb {R}$
    $P(a\leq X\leq b)=P(a<X\leq b)=P(a\leq X<b)=P(a<X<b)$
Erwartungswert und Varianz sind gegeben durch
    $E(X)=\mu =\int \limits _{-\infty }^{+\infty }x\cdot f(x)\mathrm {d} x$
    $E(g(X))=\int \limits _{-\infty }^{+\infty }g(x)\cdot f(x)\mathrm {d} x$
    $V(X)=\sigma ^{2}=\int \limits _{-\infty }^{+\infty }(x-\mu )^{2}\cdot f(x)\mathrm {d} x$

### Erwartungswert, Varianz, Kovarianz, Korrelation

Für den Erwartungswert $E(X)$, die Varianz $V(X)$, die Kovarianz $\operatorname {Cov} (X,Y)$ und die Korrelation $\varrho (X,Y)$ gelten:
    $E(aX+b)=aE(X)+b$
    $E(X+Y)=E(X)+E(Y)$, allgemein $E(\sum _{i=1}^{n}X_{i})=\sum _{i=1}^{n}E(X_{i})$
    Für unabhängige Zufallsvariablen $X_{i}$ gilt: $E(\prod _{i=1}^{n}X_{i})=\prod _{i=1}^{n}E(X_{i})$
    $V(X)=E((X-E(X))^{2})=E(X^{2})-E(X)^{2}$
    $V(aX+b)=a^{2}V(X)$
    Für unabhängige Zufallsvariablen $X_{i}$ gilt: $V(\sum _{i=1}^{n}X_{i})=\sum _{i=1}^{n}V(X_{i})$
    $\operatorname {Cov} (X,Y)=E((X-E(X))(Y-E(Y)))=E(XY)-E(X)E(Y)$
    $\operatorname {Cov} (X,Y)=\operatorname {Cov} (Y,X)$
    $\operatorname {Cov} (X,X)=V(X)$
    $\operatorname {Cov} (aX+b,Y)=a\operatorname {Cov} (X,Y)$
    $\operatorname {Cov} (X_{1}+X_{2},Y)=\operatorname {Cov} (X_{1},Y)+\operatorname {Cov} (X_{2},Y)$
    $V(X+Y)=V(X)+V(Y)+2\operatorname {Cov} (X,Y)$
    $\varrho (X,Y)={\frac {\operatorname {Cov} (X,Y)}{{\sqrt {V(X)}}{\sqrt {V(Y)}}}}$
Tschebyschow-Ungleichung:
    $P(|X-E(X)|\geq \alpha )\leq {\frac {V(x)}{\alpha ^{2}}}$

## Spezielle Verteilungen
### Binomialverteilung

Gegeben ist ein $n$-stufiger Bernoulli-Versuch (d. h. $n$ mal dasselbe Experiment, unabhängig voneinander, mit nur zwei möglichen Ausgängen und konstanten Wahrscheinlichkeiten) mit der Erfolgswahrscheinlichkeit $p$ und der Misserfolgswahrscheinlichkeit $q=1-p$. Die Wahrscheinlichkeitsverteilung der Zufallsgröße $X$: Anzahl der Erfolge heißt Binomialverteilung.
Die Wahrscheinlichkeit für $k$ Erfolge berechnet sich nach der Formel:
    $P(X=k)={\binom {n}{k}}\cdot p^{k}\cdot q^{n-k}$
Erwartungswert:
    $\mu =E(X)=n\cdot p$
Varianz:
    $\sigma ^{2}=V(X)=n\cdot p\cdot q$
Standardabweichung:
    $\sigma =\sigma (X)={\sqrt {V(X)}}={\sqrt {n\cdot p\cdot q}}$

#### σ-Regeln

(Wahrscheinlichkeiten von Umgebungen des Erwartungswertes bei Binomialverteilungen) Zwischen dem Radius einer Umgebung um den Erwartungswert und der zugehörigen Wahrscheinlichkeit der Umgebung gelten folgende Zuordnungen (falls $\sigma >3$):
| Radius der Umgebung | Wahrscheinlichkeit der Umgebung |
| 1σ | 0,68 |
| 2σ | 0,955 |
| 3σ | 0,997 |
| Wahrscheinlichkeit der Umgebung | Radius der Umgebung |
| 0,90 | 1,64σ |
| 0,95 | 1,96σ |
| 0,99 | 2,58σ |

#### Standardisieren einer Verteilung

Hat die Zufallsvariable $X$ eine Verteilung mit Erwartungswert $E(X)=\mu$ und Standardabweichung $\sigma$, dann wird die standardisierte Variable $X^{*}$ definiert durch
    $X^{*}={\frac {X-\mu }{\sigma }}.$
Die standardisierte Variable $X^{*}$ hat den Erwartungswert 0 und die Standardabweichung 1.

#### Poisson-Näherung

Gegeben sei eine Binomialverteilung mit großem Stichprobenumfang $n$ ≥ 100 und kleiner Erfolgswahrscheinlichkeit $p\leq 0,1$. Mithilfe von $\mu =n\cdot p$ kann man dann näherungsweise die Wahrscheinlichkeit für $k$ Erfolge berechnen:
    $P(X=0)\approx e^{-\mu }$
    $P(X=k)\approx {\frac {\mu }{k}}\cdot P(X=k-1)$
Die Beziehungen lassen sich zusammenfassen zu:
    $P(X=k)\approx {\frac {\mu ^{k}}{k!}}\cdot e^{-\mu }$

#### Poisson-Verteilung

Gilt für die Verteilung einer Zufallsgröße $X$
    $P(X=k)={\frac {\mu ^{k}}{k!}}\cdot e^{-\mu }$

#### Näherungsformeln von Moivre und Laplace

Sei $X$ eine binomialverteilte Zufallsgröße mit $\sigma >4$ (brauchbare Näherung besser $\sigma >9$). Die Wahrscheinlichkeit für genau und höchstens $k$ Erfolge lässt sich näherungsweise berechnen durch:
    $P(X=k)\approx {1 \over \sigma }\cdot \varphi \left({k-\mu \over \sigma }\right)$
    $P(X\leq k)=F_{X}(k)\approx \varphi \left({k-\mu \over \sigma }\right)$

#### Standardnormalverteilung

Die Dichte(Funktion) $\varphi$ (auch als Glockenkurve bekannt) der Standardnormalverteilung ist definiert durch:
    $\varphi (x)={\frac {1}{\sqrt {2\pi }}}\,\mathrm {e} ^{-{\frac {1}{2}}x^{2}}$
und die Verteilungsfunktion $\Phi$ durch:
    $\Phi (z)=\int \limits _{-\infty }^{z}\varphi (x)dx$
Näherungsformeln für eine diskrete Verteilung unter Anwendung der Kontinuitätkorrektur:
    $P(X=k)\approx \Phi \left({\frac {k+0{,}5-\mu }{\sigma }}\right)-\Phi \left({\frac {k-0{,}5-\mu }{\sigma }}\right)$
    $P(X\leq k)\approx \Phi \left({\frac {k+0{,}5-\mu }{\sigma }}\right)$
    $P(a\leq X\leq b)\approx \Phi \left({\frac {b+0{,}5-\mu }{\sigma }}\right)-\Phi \left({\frac {a-0{,}5-\mu }{\sigma }}\right)$

### Hypergeometrische Verteilung

In einer Grundgesamtheit vom Umfang $N$ seien zwei Merkmalsausprägungen vom Umfang $K$ bzw. $N-K$ vertreten. Eine Stichprobe vom Umfang $n$ werde genommen. Dann nennt man die Verteilung der Zufallsgröße $X$: Anzahl der Exemplare der 1. Merkmalsausprägung in der Stichprobe einer hypergeometrischen Verteilung.
Die Wahrscheinlichkeit, dass in der Stichprobe vom Umfang $n$ genau $k$ Exemplare der 1. Merkmalsausprägung sind, ist:
    $P(X=k)={{\binom {K}{k}}\cdot {\binom {N-K}{n-k}} \over {\binom {N}{n}}}$
$N$ = Anzahl der Elemente, $K$ = Anzahl der positiven Elemente, $n$ = Anzahl der Ziehungen, $k$ = Anzahl der Erfolge.
Sei $p={\tfrac {K}{N}}$ der Anteil, mit dem die 1. Merkmalsausprägung in der Gesamtheit vorkommt, dann gilt:
    $\mu =E(X)=n\cdot p=n\cdot {\frac {K}{N}}$
    $\sigma ^{2}=V(X)=n\cdot p(1-p){\frac {N-n}{N-1}}=n\cdot {\frac {K}{N}}\left(1-{\frac {K}{N}}\right){\frac {N-n}{N-1}}$

### Geometrische Verteilung

Gegeben ist ein Bernoulli-Versuch mit Erfolgswahrscheinlichkeit $p$. Die Verteilung der Zufallsgröße $W$: Anzahl der Stufen bis zum ersten Erfolg heißt geometrische Verteilung. Es gilt:
    $P(W=k)=p\cdot q^{k-1}$ (Erfolg genau beim $k$-ten Versuch)
    $\,P(W>k)=q^{k}$ ($k$ Misserfolge hintereinander bzw. der erste Erfolg kommt erst nach dem $k$-ten Versuch)
    $P(W\leq k)=1-q^{k}$ (Erfolg spätestens beim $k$-ten Versuch bzw. bis zum $k$-ten Versuch tritt mindestens ein Erfolg ein)
Der Erwartungswert ist
    $E(W)={\frac {1}{p}}$

### Weitere

Die unzähligen weiteren speziellen Verteilungen können hier nicht alle aufgeführt werden, es sei auf die Liste univariater Wahrscheinlichkeitsverteilungen verwiesen.

### Approximationen von Verteilungen

Unter gewissen Approximationsbedingungen können Verteilungen auch durcheinander approximiert werden um Berechnungen zu vereinfachen. Je nach Lehrbuch können die Approximationsbedingungen etwas unterschiedlich sein.
| | Nach | Nach | Nach |
| Von | $B(n,p)$ | $Po(\lambda )$ | $N(\mu ,\sigma )$ |
| Diskrete Verteilungen ||||
| Binomialverteilung $B(n,p)$ | -- | $n>10,p<0{,}05$, $\lambda :=np$ | $np(1-p)\geq 9$, $\mu :=np,\sigma ^{2}:=np(1-p)$ |
| Hypergeometrische Verteilung $Hyp(N,M,n)$ | ${\frac {n}{N}}<0{,}05$ $p:={\frac {M}{N}}$ | $n>10$, ${\frac {M}{N}}<0{,}05$, $\lambda :=n{\frac {M}{N}}$ | $n{\frac {M}{N}}\left(1-{\frac {M}{N}}\right)\geq 9$ $\mu :=n{\frac {M}{N}},\sigma ^{2}:=n{\frac {M}{N}}\left(1-{\frac {M}{N}}\right){\frac {N-n}{N-1}}$ |
| Poisson-Verteilung $Po(\lambda )$ | | -- | $\lambda >9$, $\mu :=\lambda ,\sigma ^{2}:=\lambda$ |
| Stetige Verteilungen ||||
| Chi-Quadrat-Verteilung $\chi _{n}^{2}$ | | | $n>30$ $\mu :=n,\sigma ^{2}:=2n$ |
| Studentsche t-Verteilung $t_{n}$ | | | $n>30$ $\mu :=0,\sigma ^{2}:=1$ |
| Normalverteilung $N(\mu ,\sigma )$ | | | -- |
Bei dem Übergang von einer diskreten Verteilung zu einer stetigen Verteilung kommt auch noch eine Stetigkeitskorrektur (wenn $\sigma ^{2}\leq 9$ oder $n\leq 60$) in Betracht $P(a\leq X_{\text{diskret}}\leq b)\approx P(a-0{,}5\leq X_{\text{stetig}}\leq b+0{,}5)$ und insbesondere $P(X_{\text{diskret}}=a)\approx P(a-0{,}5\leq X_{\text{stetig}}\leq a+0{,}5)$.

### Kritische Werte

Das $\alpha$-Level ist der Wert einer Wahrscheinlichkeitsverteilung für den gilt: $F(x_{\alpha })=\alpha$. Es gibt eine Standardnotation für einige häufig verwendete Verteilungen:
* $z_{\alpha }$ oder $z(\alpha )$ für die Standardnormalverteilung
* $t_{\alpha ,\nu }$ oder $t(\alpha ,\nu )$ für die t-Verteilung mit $\nu$ Freiheitsgraden
* $\chi _{\alpha ,\nu }^{2}$ oder $\chi ^{2}(\alpha ,\nu )$ für die Chi-Quadrat-Verteilung mit $\nu$ Freiheitsgraden
* $F_{\alpha ,\nu _{1},\nu _{2}}$ oder $F(\alpha ,\nu _{1},\nu _{2})$ für die F-Verteilung mit $\nu _{1}$ und $\nu _{2}$ Freiheitsgraden

## Statistik
### Beschreibende Statistik
#### Lagemaße

Arithmetisches Mittel: ${\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}{x_{i}}={\frac {x_{1}+x_{2}+\cdots +x_{n}}{n}}$
Median
Modus

#### Streuungsmaße

empirische Varianz: $s^{2}={\frac {1}{n}}\sum \limits _{i=1}^{n}\left(x_{i}-{\bar {x}}\right)^{2}={\frac {1}{n}}\left(\sum \limits _{i=1}^{n}x_{i}^{2}\right)-{\bar {x}}^{2}$
empirische Standardabweichung: $s={\sqrt {s^{2}}}={\sqrt {{\frac {1}{n}}\sum \limits _{i=1}^{n}\left(x_{i}-{\bar {x}}\right)^{2}}}$

#### Zusammenhangsmaße

Empirische Kovarianz:
    $s_{xy}={\frac {1}{n}}\sum _{i=1}^{n}{(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}={\frac {1}{n}}\left(\sum _{i=1}^{n}x_{i}y_{i}\right)-{\bar {x}}{\bar {y}},$
Empirischer Korrelationskoeffizient:
    $r_{xy}={\frac {s_{xy}}{s_{x}\cdot s_{y}}}={\frac {\sum (x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sqrt {\sum (x_{i}-{\bar {x}})^{2}\sum (y_{i}-{\bar {y}})^{2}}}}$
Gleichung der Regressionsgeraden einer linearen Einfachregression: $y=ax+b$ mit
    $a={\frac {s_{xy}}{s_{x}^{2}}}={\frac {\sum (x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum (x_{i}-{\bar {x}})^{2}}}$
    $b={\bar {y}}-a{\bar {x}}$,
wobei ${\bar {x}}$ und ${\bar {y}}$ die arithmetischen Mittel bedeuten.

#### Mittelwerte

| Mittelwert | Zwei Zahlen | Allgemein |
| Modus | Ausprägung mit höchster Häufigkeit | Ausprägung mit höchster Häufigkeit |
| Median (Zentralwert) | Sofern $x_{1},\dotsc ,x_{n}$ sortiert sind: ${\bar {x}}_{\mathrm {med} }={\begin{cases}x_{({\frac {n+1}{2}})},&n{\text{ ungerade,}}\\{\frac {1}{2}}\left(x_{({\frac {n}{2}})}+x_{({{\frac {n}{2}}+1})}\right),&n{\text{ gerade.}}\end{cases}}$ | Sofern $x_{1},\dotsc ,x_{n}$ sortiert sind: ${\bar {x}}_{\mathrm {med} }={\begin{cases}x_{({\frac {n+1}{2}})},&n{\text{ ungerade,}}\\{\frac {1}{2}}\left(x_{({\frac {n}{2}})}+x_{({{\frac {n}{2}}+1})}\right),&n{\text{ gerade.}}\end{cases}}$ |
| Arithmetisches Mittel | ${\frac {a+b}{2}}$ | ${\bar {x}}_{\mathrm {arithm} }={\frac {1}{n}}\sum _{i=1}^{n}{x_{i}}={\frac {x_{1}+x_{2}+\dotsb +x_{n}}{n}}$ |
| Geometrisches Mittel | ${\sqrt {ab}}$ | ${\bar {x}}_{\mathrm {geom} }={\sqrt[{n}]{\prod _{i=1}^{n}{x_{i}}}}={\sqrt[{n}]{x_{1}\cdot x_{2}\dotsm x_{n}}}$ |
| Harmonisches Mittel | ${\frac {2}{{\frac {1}{a}}+{\frac {1}{b}}}}$ | ${\bar {x}}_{\mathrm {harm} }={\frac {n}{\sum \limits _{i=1}^{n}{\frac {1}{x_{i}}}}}={\frac {n}{{\frac {1}{x_{1}}}+{\frac {1}{x_{2}}}+\dotsb +{\frac {1}{x_{n}}}}}$ |
| Quadratisches Mittel | ${\sqrt {\frac {a^{2}+b^{2}}{2}}}$ | ${\bar {x}}_{\mathrm {quadr} }={\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}{x_{i}^{2}}}}={\sqrt {{x_{1}^{2}+x_{2}^{2}+\dotsb +x_{n}^{2}} \over n}}$ |

### Schließende Statistik
#### Parameter

Im Allgemeinen werden in der Statistik unbekannte Parameter der Grundgesamtheit oder eines Modells mit griechischen Buchstaben (z. B. $\theta ,\beta$) bezeichnet.
* Das arithmetische Mittel in der Grundgesamtheit: $\mu$.
* Die Varianz in der Grundgesamtheit: $\sigma ^{2}$.
* Den Anteilswert einer dichotomen Variablen in der Grundgesamtheit: $\pi$.
* Der Achsenabschnitt $\beta _{0}$ und die Steigung $\beta _{1}$ im einfachen linearen Regressionsmodell $Y_{i}=\beta _{0}+\beta _{1}x_{i}+U_{i}$.

#### Schätzfunktionen

Eine Schätzfunktion für einen unbekannten Parameter wird häufig durch einen Großbuchstaben der Parameterbezeichnung aus der beschreibenden Statistik bezeichnet. Die Schätzfunktion ergibt sich aus den Stichprobenvariablen $X_{1},\ldots ,X_{n}$.
| Parameter | Bedingung | Schätzfunktion | Verteilung |
| $\mu$ | | ${\bar {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$ | 1. $X_{i}\sim N(\mu ;\sigma ^{2})\Rightarrow {\bar {X}}\sim N(\mu ;\sigma ^{2}/n)$ 2. Wenn der zentrale Grenzwertsatz gilt, dann gilt ${\bar {X}}\approx N(\mu ;\sigma ^{2}/n)$ |
| $\sigma ^{2}$ | $\mu$ bekannt | $S^{*2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}$ | $X_{i}\sim N(\mu ;\sigma ^{2})\Rightarrow {\frac {nS^{*2}}{\sigma ^{2}}}\sim \chi _{n}^{2}$ |
| $\sigma ^{2}$ | $\mu$ unbekannt | $S_{n}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$ | $X_{i}\sim N(\mu ;\sigma ^{2})\Rightarrow {\frac {(n-1)S_{n}^{2}}{\sigma ^{2}}}\sim \chi _{n-1}^{2}$ |
| $\pi$ | | $\Pi ={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$ | 1. Ziehen mit Zurücklegen: $\Pi \sim B(n;\pi )$ 2. Ziehen ohne Zurücklegen: $\Pi \sim Hyp(N;M;n)$  mit $M=\pi \cdot N$ und $N$ der Umfang der Grundgesamtheit. |
| $\beta _{0}$, $\beta _{1}$ | | $B_{k}=\sum _{i=1}^{n}Y_{i}w_{i}^{(k)}(x_{1},\ldots ,x_{n})$ | Wenn $U_{i}\sim N(0;\sigma _{u}^{2})$, dann folgt $B_{k}\sim N(\beta _{k};\sigma _{B_{k}}^{2})$ |

#### Punktschätzer und Konfidenzintervalle

| Parameter | Punktschätzer | $1-\alpha$ Konfidenzintervall |
| $\mu$ | ${\hat {\mu }}={\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ | 1. Wenn $\sigma$ bekannt: $[{\bar {X}}-z_{1-\alpha /2}\sigma /{\sqrt {n}};{\bar {X}}+z_{1-\alpha /2}\sigma /{\sqrt {n}}]$ |
| $\mu$ | ${\hat {\mu }}={\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ | 2. Wenn $\sigma$ unbekannt: $[{\bar {X}}-t_{n-1;1-\alpha /2}S/{\sqrt {n}};{\bar {X}}+t_{n-1;1-\alpha /2}S/{\sqrt {n}}]$ |
| $\sigma ^{2}$ | ${\hat {\sigma }}^{2}=s_{n}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}$ | |
| $\pi$ | ${\hat {\pi }}=p={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ | 1. Ziehen mit Zurücklegen: Wenn $\Pi \approx N\left(\pi ;{\tfrac {\pi (1-\pi )}{n}}\right)$, dann gilt approximativ: $\left[\Pi -z_{1-\alpha /2}{\sqrt {\tfrac {\pi (1-\pi )}{n}}};\Pi +z_{1-\alpha /2}{\sqrt {\tfrac {\pi (1-\pi )}{n}}}\right]$ |
| $\pi$ | ${\hat {\pi }}=p={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ | 2. Ziehen ohne Zurücklegen: Wenn $\Pi \approx N\left(\pi ;{\tfrac {\pi (1-\pi )}{n}}{\tfrac {N-n}{N-1}}\right)$, dann gilt approximativ: $\left[\Pi -z_{1-\alpha /2}{\sqrt {{\tfrac {\pi (1-\pi )}{n}}{\tfrac {N-n}{N-1}}}};\Pi +z_{1-\alpha /2}{\sqrt {{\tfrac {\pi (1-\pi )}{n}}{\tfrac {N-n}{N-1}}}}\right]$ |
| $\pi$ | ${\hat {\pi }}=p={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ | Bei der Berechnung eines Schätzintervalls mittels einer Stichprobe in 1. und 2. wird $\pi$ durch $p$ ersetzt. |