Formelsammlung Statistik/ Zufallsvariablen und Verteilungsmodelle

diskrete Zufallsvariablen

Ein Merkmal X, das aufgrund zufälliger Ereignisse eine (endliche) Menge

von Ausprägungen x₁, x₂ ... annehmen kann, nennt man Vorlage:Latex Indexdiskrete

Zufallsvariable X.

Eindimensionale Zufallsvariablen

Wahrscheinlichkeitsfunktion:

$f(x)=\{\begin{array}{cc}P(X=x_i)=p_i,& x=x_i\in \{x_1,x_2,...,x_k..\}\\ 0& sonst\end{array}$

Verteilungsfunktion:

$F(x)=P(X\le x)=\sum _{i:x_i\le x}f(x_i).$

Normiertheit:

$\sum _{i=1}^k{p}_i=1.$

Vorlage:Latex IndexErwartungswert

$E(X)=\mu =\sum _{i=1}^k{x}_i\cdot p_i=\sum _{i=1}^k{x}_i\cdot f(x_i),$

VarianzVorlage:Latex Index

$Var(X)=\sum _{i=1}^k(x_i-E(X){)}^2\cdot f(x_i).$

bzw. mit dem Vorlage:Latex IndexVerschiebungssatz

$Var(X)=(\sum _{i=1}^k{x}_i^2\cdot f(x_i))-E(X^2)=$

Standardabweichung

$\sigma =+\sqrt{Var(X)}.$

Varianz der Summe Vorlage:Latex Indexunabhängiger Zufallsvariablen

$Var(X+Y)=Var(X)+Var(Y).$

Mehrdimensionale Zufallsvariablen

Einzelwahrscheinlichkeit

$P(X=x_1)=f_X(x_1)=\sum _{j=1}^m{f}_{X,Y}(x_1;y_j)$

Vorlage:Latex IndexKovarianz

$covXY=\sum _{i=1}^n\sum _{j=1}^m(x_i-E(X))(y_j-E(Y))f_{X,Y}(x_i;y_j)$

bzw. mit dem Verschiebungssatz

$covXY=\sum _{i=1}^n\sum _{j=1}^m{x}_i\cdot y_j\cdot f_{X,Y}(x_i;y_j)-E(X)\cdot E(Y)$

Vorlage:Latex IndexKorrelationskoeffizient r_xy nach Bravais-Pearson

für metrisch skalierte Merkmale zweier statistischer Variablen x und y

$r=\frac{\sum _{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sqrt{\sum _{i=1}^n(x_i-\overline{x}{)}^2}\cdot \sqrt{\sum _{i=1}^n(y_i-\overline{y}{)}^2}},$

mit $\overline{x}=\frac{1}{n}\cdot \sum _{i=1}^n{x}_i$ als dem arithmetischen Mittel des Merkmals x. Mit Hilfe des Verschiebungssatzes:

$r=\frac{\sum _{i=1}^n{x}_i\cdot y_i-n\cdot \overline{x}\cdot \overline{y}}{\sqrt{(\sum _{i=1}^n{x}_i^2-n\cdot (\overline{x}{)}^2)\cdot (\sum _{i=1}^n{y}_i^2-n\cdot (\overline{y}{)}^2)}}$

Vorlage:Latex IndexRangkorrelationskoeffizient nach Spearman

• für Variablen, die stark von der Normalverteilung abweichen

• sowie ordinalskalierte Variablen

Nach Ordnung der einzelnen Beobachtungen von x bzw. y der Größe nach wird

jedem Wert wird seine Rangzahl rg(x_i) und rg(y_i) zugewiesen. Damit:

$r_{SP}=\frac{\sum _i(rg(x_i)-\overline{rg(x)})(rg(y_i)-\overline{rg(y)})}{\sqrt{\sum _i(rg(x_i)-\overline{rg(x)}{)}^2}\sqrt{\sum _i(rg(y_i)-\overline{rg(y)}{)}^2}}$.

diskrete Verteilungsmodelle

Vorlage:Latex IndexBinomialverteilung

Für eine binomialverteilte Zufallsvariable X mit den Parametern n und θ (0 ≤ θ ≤ 1) lautet die Wahrscheinlichkeitsfunktion

$P(X=x)=b(x|n;\theta )=\{\begin{array}{cc}(\genfrac{}{}{0ex}{}{n}{x}){\theta }^x(1-\theta {)}^{n-x}& \text{falls }x=0,1,\dots ,n\\ 0& \text{sonst.}\end{array}$

Erwartungswert

$E(X)=n\cdot \theta$

Varianz

$Var(X)=n\cdot \theta \cdot (1-\theta )$

Vorlage:Latex IndexHypergeometrische Verteilung

Eine Zufallsvariable X ist hypergeometrisch verteilt mit den Parametern

N (Grundgesamtheit), M ("Kugeln der ersten Sorte") und n (Stichprobenumfang),

wenn ihre Wahrscheinlichkeitsfunktion lautet

$P(X=x)=h(x|N;M;n)=\{\begin{array}{cc}\frac{(\genfrac{}{}{0ex}{}{M}{x})\cdot (\genfrac{}{}{0ex}{}{N-M}{n-x})}{(\genfrac{}{}{0ex}{}{N}{n})}& \text{ für x = 0, 1, ... , n}\\ 0& \text{ sonst}\end{array}$

Erwartungswert

$E(X)=n\cdot \frac{M}{N}=n\cdot \mathrm{\Theta }$

Varianz

$Var(X)=n\cdot \frac{M}{N}\cdot (1-\frac{M}{N})\frac{N-n}{N-1}.$

Der Bruch $\frac{N-n}{N-1}$ wird Korrekturfaktor genannt.

Vorlage:Latex IndexPoissonverteilung

Wahrscheinlichkeitsfunktion ($\lambda >0$)

$P(X=x)=p(x|\lambda )=\{\begin{array}{cc}\frac{e^{-\lambda }\cdot {\lambda }^x}{x!}& \text{ für x = 0, 1, ... }\\ 0& \text{ sonst}\end{array}$

Erwartungswert und Varianz

$E(X)=Var(X)=\lambda$

stetige Zufallsvariablen

Eine stetige Zufallsvariable kann in jedem beschränkten Intervall unendlich viele Ausprägungen annehmen.

Ihre Verteilung lässt sich durch eine Dichtefunktion f(x) beschreiben.

(f(x) ist hier keine Wahrscheinlichkeit, sondern eine Dichte !)

Vorlage:Latex IndexVerteilungsfunktion

$P(X\le a)=F(a)=\underset{-\mathrm{\infty }}{\overset{a}{\int }}f(x)dx$

• Es gilt: P(X = a) = 0.

• Wegen P(X = a) = 0 ist P(X ≤ a) = P(X < a) und P(X > a) = P(X ≥ a)

Die Vorlage:Latex IndexDichtefunktion f(x) ist die erste Ableitung der Verteilungsfunktion, falls diese an der Stelle x differenzierbar ist.

• Die Dichtefunktion f(a) kann auch größer als 1 werden.

• Ausgehend von $P(X\le x)=p$ ist das p-Quantil x(p) der Wert x, der zu einer gegebenen Wahrscheinlichkeit p gehört. Speziell x(0,5) ist der Median.

Vorlage:Latex Index Erwartungswert

$E(X)=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}x\cdot f(x)dx,$

falls E(X) existiert, d.h. nicht unendlich wird.

Varianz

$Var(X)=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}(x-E(X){)}^2\cdot f(x)dx$

wobei auch hier der Verschiebungssatz angewendet werden kann:

$Var(X)=(\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{x}^{2}f(x)dx)-(E(X){)}^2$

stetige Verteilungsmodelle

Vorlage:Latex IndexStetige Gleichverteilung (Vorlage:Latex IndexRechteckverteilung)

Dichtefunktion der Gleichverteilung im Intervall [a,b]

$f(x)=\{\begin{array}{cc}\frac{1}{b-a}& \text{für }a\le x\le b\\ 0& \text{sonst.}\end{array}$

Erwartungswert

$E(X)=\frac{a+b}{2}$

Varianz

$Var(X)=\lambda \underset{a}{\overset{b}{\int }}{x}^2\cdot \frac{1}{b-a}dx=\frac{(b-a{)}^2}{12}$

Vorlage:Latex IndexExponentialverteilung

Dichtefunktion der Exponentialverteilung

$f(x)=\{\begin{array}{cc}\lambda \cdot e^{-\lambda x}& \text{für }x\ge 0\\ 0& \text{für }x<0\end{array}$

Verteilungsfunktion

$P(X\le x)=1-e^{-\lambda x}$

Erwartungswert

$E(X)=\lambda \underset{0}{\overset{\mathrm{\infty }}{\int }}x\cdot e^{-\lambda x}dx=\frac{1}{\lambda }$

Varianz

$Var(X)=\frac{1}{{\lambda }^2}$ .

Vorlage:Latex IndexNormalverteilung

Für eine Zufallsvariable $X\propto N(\mu ,{\sigma }^2)$ lautet die Dichtefunktion der NV

$f(x)=\frac{1}{\sqrt{2\pi }\cdot \sigma }\cdot e^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$ für $x\in ℝ$

Normierung mit $z=\frac{x-\mu }{\sigma }$ ergibt die Standardnormalverteilung mit der Dichtefunktion ${\varphi }_x(z)\propto N(0,1)$:

${\varphi }_x(z)=\frac{1}{\sqrt{2\cdot \pi }}\cdot e^{-\frac{1}{2}{z}^2}$

Anm.:Es wird auch die Schreibweise ${\varphi }_x(z|\mu ,{\sigma }^2)$ anstelle $N(\mu ,{\sigma }^2)$ verwendet

Erwartungswert

$E(X)=\mu$

Varianz

$Var(X)={\sigma }^2$

p-Quantil

Der zu einer gegebenen Wahrscheinlichkeit p zugehörige z-Wert z(p)

$P(Z\le z(p))=p$ .

Beispielsweise ist z(0,975) = 1,96.

Linearkombinationen normalverteilter Zufallsvariablen

Für n normalverteilte Zufallsvariablen $X_i(i=1,...,n),\text{ mit }{X}_i\propto N({\mu }_i;{\sigma }_i^2)$

ist die Linearkombination

$Y=a_0+a_1{X}_1+a_2{X}_2+...+a_n{X}_n=a_0+\sum _{i=1}^n{a}_i{X}_i$

ebenfalls normalverteilt mit dem Erwartungswert

$E(Y)=a_0+\sum _{i=1}^n{a}_{i}E(X_i)=a_0+\sum _{i=1}^n{a}_i{\mu }_i$ .

Falls die $X_i(i=1,...,n)$ stochastisch unabhängig sind, gilt für die Varianz

$Var(Y)=\sum _{i=1}^n{a}_i^2\cdot (X_i)=\sum _{i=1}^n{a}_i^2{\sigma }_i^2$ .

Die Varianz muss größer Null sein, deshalb muss zudem $a_j\ne 0$ für mindestens ein $j\in \{1,\dots ,n\}$ gelten.

Verteilung des Stichprobendurchschnitts

Sind die n Zufallsvariablen $X_i$ (i = 1, ... , n) sämtlich normalverteilt

mit gleichem μ und gleichem σ², ist die Linearkombination

X mit a₀ = 0, a₁ = a₂ = ... = a_n = 1/n, also :$\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$

normalverteilt dem Erwartungswert

$E(\overline{X})=\frac{1}{n}\sum _{i=1}^n\mu =\mu$

und, falls die Xi (i = 1, ... , n) stochastisch unabhängig sind, mit der Varianz

$Var(\overline{X})=\frac{1}{n^2}\sum _{i=1}^n{\sigma }^2=\frac{{\sigma }^2}{n}$ .

Vorlage:Latex IndexCHI-Quadrat-verteilung

Die $X_1,X_2,...X_n$ seien unabhängige standardnormalverteilte Zufallsvariablen.

Dann ist die Verteilung der Zufallsvariablen $Z=X_1^2+X_2^2+...+X_n^2$

chi-quadrat verteilt mit n Freiheitsgraden $Z\propto {\chi }^2(n)$

Erwartungswert:

$E(Z)=n$

Varianz

$Var(Z)=2n$ .

Anm.: Die Gruppe der Hypothesentests mit ${\chi }^2$-Verteilung bezeichnet man als ${\chi }^2$-Test.

Hierunter sind mehrere Tests zu verstehen:

Verteilungstest oder Anpassungstest: Hier wird geprüft, ob vorliegende Daten auf eine bestimmte Weise verteilt sind.

Unabhängigkeitstest: Hier wird geprüft, ob zwei Merkmale stochastisch unabhängig sind.

Homogenitätstest: Hier wird geprüft, ob zwei oder mehr Stichproben derselben Verteilung bzw. einer homogenen Grundgesamtheit entstammen.

Vorlage:Latex Indext- (Vorlage:Latex IndexStudent-) Verteilung

Für die unabhängigen Variablen $X$ (standardnormalverteilt) und $Z(Z\propto {\chi }^2(n))$ ist die Variable

$T=\frac{X}{\sqrt{Z/n}}$

t-verteilt $(T\propto t(n))$ mit n Freiheitsgraden.

Erwartungswert

$E(T)=0$ für $(m\ge 2)$

Varianz

$Var(T)=\frac{n}{n-2}$ für $(n\ge 3)$

Vorlage:Latex IndexFisher- Verteilung

Für die unabhängigen Variablen $X\propto {\chi }^2(m)$ und $Y\propto {\chi }^2(n)$ ist die Verteilung der Variablen

$Z=\frac{X/m}{Y/n}$

Fisher- oder F-verteilt $(Z\propto F(m,n))$ mit den Freiheitsgraden m und n.

Erwartungswert

$E(T)=\frac{n}{n-2}$ für $(n\ge 3)$

Varianz

$Var(Z)=\frac{2n^2(n+m-2)}{m(n-4)(n-2{)}^2}$ für $(n\ge 3)$

Approximation von Verteilungen

Gesuchte Verteilung	Approximation durch
$P(X\le x)$	Binomial	Poisson	Normal
Binomial $B(x|n\theta )\approx$	---	$P(x|n\theta )$ $\text{ falls }n\ge 50$ $\text{ und }\theta \le 0,05$	$\mathrm{\Phi }(x+0,5|n\cdot \theta ;n\cdot \theta \cdot (1-\theta ))$ $\text{ falls }n>\frac{9}{\theta (1-\theta )}$
Hypergeometrische $H(x|N;M;n)\approx$	$B(x|n\frac{M}{N})$ $\text{ falls }\frac{n}{N}<0,05$	über Binomialverteilung	$\mathrm{\Phi }(x+0,5|n\cdot \stackrel{}{\frac{M}{N}};n\cdot \frac{M}{N}\cdot (1-\frac{M}{N})\cdot \frac{N-n}{N-1}$ $\text{ falls }n>\frac{9}{\frac{M}{N}\cdot (1-\frac{M}{N})}$ $\text{ und }\underset{}{\frac{n}{N}}<0,05$
Poisson $P(x|\lambda )\approx$	---	---	$\mathrm{\Phi }(x+0,5|\lambda ;\lambda )\text{ falls }\lambda >9$
χ2-Verteilung ${\chi }^2(x|n)$→ $P(\sqrt{2X}\le \sqrt{2x})\approx$	---	---	$\mathrm{\Phi }(\stackrel{}{\sqrt{2x}}|\sqrt{2n-1};1)$ $\text{ falls }n>30$
t-Verteilung $t(x|n)\approx$	---	---	$\mathrm{\Phi }(x|0;1)\text{ falls }n>30$
F-Verteilung $F(x|m;n)\approx$	---	---	$\mathrm{\Phi }(x|0;1)\text{ falls }$ $m>30\text{ und }n>30$

Vorlage:Latex IndexGrenzwertsatz

Gesetz der großen Zahlen

Für ein beliebig kleines c > 0 gilt

$P(|{\overline{X}}_n-\mu |\le c)\to 1$ für $(n\to \mathrm{\infty })$

Vorlage:Latex IndexTheorem von Bernoulli

Die relative Häufigkeit, mit der ein Ereignis A bei n unabhängigen Wiederholungen

eines Zufallsereignisses eintritt, konvergiert nach Wahrscheinlichkeit gegen P(A)

Vorlage:Latex IndexHauptsatz der Statistik

Für eine Zufallsvariable X mit der Verteilungsfunktion F(x) gilt für die Verteilungsfunktion F_n(x)

für die unabhängigen wie identisch wie X verteilten X₁…X_n (x∈ R)

$P(sup|F_n(x)-F(x)|\le c)\to 1\text{ für }(n\to \mathrm{\infty })$

(sup: Maximale Abweichung zwischen ${\hat{F}}_n(x)$ und $\hat{F}(x)$).

Vorlage:Latex IndexZentraler Grenzwertsatz

Für unabhängig identisch verteilte Zufallsvariablen X₁…X_n mit E(X_i ) = μ

und Var(X_i ) =σ² > 0 konvergiert die Verteilungsfunktion F_n(z) = P(Z_n≤z)

der standardisierten Summe

$Z_n=\frac{X_1+..+X_n-n\cdot \mu }{\sqrt{n}\sigma }=\frac{1}{\sqrt{n}}\sum _{i=1}^n\frac{X_i-\mu }{\sigma }$

für n → ∞ an jeder Stelle $z\in ℝ$ gegen die Verteilungsfunktion ${\varphi }_x(z)$ der Standardnormalverteilung

$F_n(z)\Rightarrow {\varphi }_x(z)$

Vorlage:Latex IndexGrenzwertsatz von De Moivre

Die Verteilung der standardisierten absoluten Häufigkeit $\frac{H_n-n\cdot \pi }{\sqrt{n\pi (1-\pi )}}$ der Standardnormalverteilung

konvergiert für n → ∞ gegen eine Standardnormalverteilung.