Beweisarchiv: Stochastik: Wahrscheinlichkeitstheorie: Satz von Moivre-Laplace

Aus testwiki
Zur Navigation springen Zur Suche springen

Beweisarchiv: Stochastik: TOPNAV

Satz von Moivre-Laplace

Sei X1,X2,X3, eine Folge bernoulli-verteilter Zufallsvariablen und deren Summe Sn binomialverteilt mit Parametern n, p]0,1[ und σ2=p(1p). Dann gilt:

(1) P(Sn=k)=B(kp,n)12πnσ2exp(n2σ2(knp)2)


(2) limnP(x1Snnpnx2)=12πσ2x1x2exp(x22σ2)dx für alle x1,x2 mit x1<x2

Korollar

Sei φ: definiert durch

φ(x):=12(xx)(1x+x)) für alle x

und sei n0,N0 und f:[n0,N] zweimal stetig differenzierbar. Dann gilt

  • n0=0,N=1 01f(x)dx=12(f(0)+f(1))01φ(x)f(x)dx (Trapez-Regel)
  • n0N n0Nf(x)dx=k=n0Nf(k)12(f(n0)+f(N))n0Nφ(x)f(x)dx

Hinweise:

x bezeichnet die Abrundungsfunktion, mit der Eigenschaft limϵ0kϵ=k1 für alle k.
Es ist |φ(x)|18 für alle x.

Beweis

  • Die Aussage folgt durch zweimaliges partielles Integrieren, wobei φ(x)|x=0=φ(x)|x=1=0 und φ(x)=12(12x+2x) sowie φ(x)=1.


01f(x)dx=01φ(x)f(x)dx=limϵ0[φ(x)f(x)]01ϵ+limϵ001ϵφ(x)f(x)dx=limϵ0(φ(x)|x=1ϵf(1ϵ)φ(0)f(0))+limϵ001ϵφ(x)f(x)dx=limϵ0(12(12(1ϵ)+0)f(1ϵ)12f(0))+limϵ001ϵφ(x)f(x)dx=limϵ0(12(2ϵ1)f(1ϵ)12f(0))+limϵ001ϵφ(x)f(x)dx=12(f(0)+f(1))+limϵ001ϵφ(x)f(x)dx=12(f(0)+f(1))+limϵ0([φ(x)f(x)]01ϵ01ϵφ(x)f(x)dx)=12(f(0)+f(1))limϵ001ϵφ(x)f(x)dx=12(f(0)+f(1))01φ(x)f(x)dx


  • Da φ(x) periodisch ist, übertragen sich die obigen Eigenschaften von φ(x)|0x1 auf φ(x)=k=n0Nφ(x)|kxk+1.
n0Nf(x)dx=n0Nφ(x)f(x)dx=limϵ0k=n0N1[φ(x)f(x)]kk+1ϵ+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=limϵ0k=n0N1(φ(x)|x=k+1ϵf(k+1ϵ)φ(k)f(k))+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=limϵ0k=n0N1(12(12(k+1ϵ)+2k)f(k+1ϵ)12f(k))+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=limϵ0k=n0N1(12(2ϵ1)f(k+1ϵ)12f(k))+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=k=n0N1(12f(k+1)+12f(k))+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=k=n01N112f(k+1)12f(n0)+k=n0N12f(k)12f(N)+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=k=n0N12f(k)12f(n0)+k=n0N12f(k)12f(N)+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=k=n0Nf(k)12(f(n0)+f(N))+limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=k=n0Nf(k)12(f(n0)+f(N))+limϵ0k=n0N1([φ(x)f(x)]01ϵkk+1ϵφ(x)f(x)dx)=k=n0Nf(k)12(f(n0)+f(N))limϵ0k=n0N1kk+1ϵφ(x)f(x)dx=k=n0Nf(k)12(f(n0)+f(N))n0Nφ(x)f(x)dx

Stirlingformel

Definition

Nach Gauß lässt sich die Gammafunktion Γ(x) für alle x{0,1,2,} und alle n0 durch eine Produktdarstellung definieren

Γ(x)=limnn!nxx(x+1)(x+2)(x+n).

Bemerkungen:

  • Es gilt n!=Γ(n+1)=nΓ(n).
  • Die Stirlingformel lautet n!=limn(2πn(ne)n+ϵn)
  • Nachfolgend wird das Näherungszeichen "" verwendet, wenn eine Approximation durchgeführt wird. Ein Gleichheitszeichen "=" wird gesetzt, wenn eine Umformung erfolgt.

Satz (Stirling-Formel und Gammafunktion)

In der Halbebene Re(x)>0 gilt

logΓ(x)=(x12)logxx+log2π+𝒪(1|x|).

Dabei ist logx der Hauptzweig des Logarithmus (der reell ist für positive reelle x) und ebenso ist logΓ(x) reell für positive reelle x>0.

Beweis

Nach Gauß ist

Γ(x)=limnn!nxx(x+1)(x+2)(x+n)

also

logΓ(x)=limn(logn!+xlognk=0nlog(x+k))


Die Anwendung des Korollars ergibt für ein festes und beliebiges x mit d2f(t)dt2|t=k=d2log(x+t)dt2|t=k=1(x+t)2 und nach Umformung k=0nlog(x+k)=0nlog(x+t)dt+12(logx+log(x+n))+0nφ(t)1(x+t)2dt und somit


logΓ(x)=limn(logn!+xlogn0nlog(x+t)dt12(logx+log(x+n))0nφ(t)1(x+t)2dt)


Wegen |φ(t)|18 ergibt sich |0nφ(t)1(x+t)2dt|18|0n1(x+t)2dt| und wegen 18|0n1(x+t)2dt|=18|[1x+t]0n|=18|1x+n1x|=18|xn+xx(x+n)|=18|1x(xn+1)|181|x|𝒪(1|x|) ist die Näherung |0nφ(t)1(x+t)2dt|𝒪(1|x|) zulässig. Unter Auslassung des Fehlerterms 𝒪(1|x|) der Approximation folgt


logΓ(x)=limn(logn!+xlogn0nlog(x+t)dt12(logx+log(x+n)))


Partielle Integration liefert 0nlog(x+t)dt=[(x+t)log(x+t)1]0n=(x+n)log(x+n)xlogx+C. Da die Integrationskonstante o.B.d.A. gewählt werden kann, sei C=n und damit


logΓ(x)=limn(logn!+xlogn(x+n)log(x+n)+xlogx+n12(logx+log(x+n)))=limn(logn!+xlogn(x+n+12)log(x+n)+(x12)logx+n)


Es wird ein indirekter Beweis mit der Stirling-Formel n!=limn(2πn(ne)n+ϵn), loge=1 und logϵn=ϵn durchgeführt, wobei logn!=limn((n+12)lognn+log2π+ϵn) ist und damit


logΓ(x)=limn((n+12)lognn+xlogn(x+n+12)log(x+n)+(x12)logx+n+ϵn)+log2π=limn((x+n+12)logn(x+n+12)log(x+n)+ϵn)+(x12)logx+log2π


Nun ist log(x+n)=log(n(1+xn))=logn+log(1+xn) und für festes x und grosses n gilt log(1+xn)xn+𝒪(1n2). Unter Auslassung des Fehlerterms 𝒪(1n2) erhalten wir mit log(x+n)=logn+xn


logΓ(x)=log2π+(x12)logx+limn((x+n+12)logn(x+n+12)(logn+xn)+ϵn)=log2π+(x12)logx+limn(xn(x+n+12)+ϵn)=log2π+(x12)logxx

An dieser Stelle sei erwähnt, dass diese Näherung für x9 mit einem relativen Fehler von kleiner als 1% behaftet ist.

Für die weitere Beweisführung seien folgende Umformungen angegeben:

Γ(x)2πx(x12)ex


und wegen n!=Γ(n+1)=nΓ(n) folgt


n!=nΓ(n)n2πn(n12)en=2πn(ne)n=nnen2πn

Beweis (1)

Der Beweis wird in zwei Schritten durchgeführt.

Schritt 1

Zunächst wird gezeigt:

B(kp,n)nnen2πnkkek2πk(nk)nke(nk)2π(nk)pk(1p)nk

Dazu werden mit Hilfe der Stirlingformel die Fakultäten ersetzt, also folgende Näherungen vorgenommen:

  • n!2πn(ne)n=nnen2πn
  • k!2πk(ke)k=kkek2πk
  • (nk)!2π(nk)(nke)nk=(nk)nke(nk)2π(nk)

Damit lässt sich die Binomialverteilung wie folgt ausdrücken:

B(kp,n)=(nk)pk(1p)nk=n!k!(nk)!pk(1p)nknnen2πnkkek2πk(nk)nke(nk)2π(nk)pk(1p)nk=n2πk(nk)nnkk(nk)nkpk(1p)nk=n2πk(nk)(npk)k(n(1p)nk)nk=12πnkn(1kn)(npk)k(n(1p)nk)nk

Schritt 2

Mit der Näherung knp und der Taylorapproximation wird gezeigt:

B(kp,n)12πnkn(1kn)(npk)k(n(1p)nk)nk12πnσ2exp(n2σ2(knp)2)


Für hinreichend großes nk kann die Näherung knp verwendet werden, woraus unmittelbar folgt 12πnkn(1kn)12πnp(1p)=12πnσ2.


Damit erhalten wir die gewünschte Darstellung und formen die beiden Potenzen in exponentielle Faktoren um, so dass:


B(kp,n)12πnσ2(npk)k(n(1p)nk)nk=12πnσ2(pk/n)k((1p)1k/n)nk=12πnσ2exp(nnlog((pk/n)k(1p1k/n)nk))=12πnσ2exp(nnlog((k/np)k(1k/n1p)(nk)))=12πnσ2exp(n(knlog(k/np)f(x)(1kn)log(1k/n1p)g(x)))


Um die Asymptotik der beiden exponentiellen Faktoren zu erhalten, bilden wir die Taylorapproximation in der Annäherung durch die Schmiegparabel. Wir erhalten mit x=kn für die Funktionen f(x)=xlnxp und g(x)=(1x)ln1x1p, um den Entwicklungspunkt x=p, folgende Schmiegparabeln:

T2f(x,p)=(xlnxp)|x=p+ddx(xlnxp)|x=p(xp)+12d2dx2(xlnxp)|x=p(xp)2=(lnxp+xpx1p)|x=p(xp)+12ddx(lnxp+1)|x=p(xp)2=xp+12(px1p)|x=p(xp)2=xp+12p(xp)2

und

T2g(x,p)=((1x)ln1x1p)|x=p+ddx((1x)ln1x1p)|x=p(xp)+12d2dx2((1x)ln1x1p)|x=p(xp)2=(ln1x1p+(1x)1p1x11p)|x=p(xp)+12ddx(ln1x1p1)|x=p(xp)2=(xp)12(1p1x11p)|x=p(xp)2=(xp)+12(1p)(xp)2

Bemerkungen: zu beachten ist ddxlnh(x)=h(x)h(x) und der Fehler dieser Näherung wird durch das Integralrestglied R2f(x,p) bzw. R2g(x,p) repräsentiert.

Die Zusammenfassung beider Taylorapproximationen liefert dann mit σ2=p(1p) und unter Auslassung der Restglieder: T2f(x,p)+T2g(x,p)=xp+12p(xp)2(xp)+12(1p)(xp)2=12p(xp)2+12(1p)(xp)2=1p+p2p(1p)(xp)2=12p(1p)(xp)2=12σ2(xp)2


Insgesamt ergibt sich mit den unterschiedlichen Näherungen die Eingangs zitierte Aussage:

B(kp,n)12πnkn(1kn)(npk)k(n(1p)nk)nk12πnσ2exp(n2σ2(knp)2)

Beweis (2)

Gezeigt wird, dass aus dem lokalen Grenzwertsatz im Limes n und der Riemann-Summe folgt:

P(x1Snnpnx2)=12πσ2x1x2exp(x22σ2)dx für alle x1,x2 mit x1<x2

Schritt 1

Zunächst folgt mit dem lokalen Grenzwertsatz:

P(x1Snnpnx2)=k{0,1,n}x1knpnx2P(Sn=k)=k{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)(1+ϵn,p(k))

wobei limnϵn,p(k)=0.

Setzen wir nun ϵ¯n,p:=supk{0,1,n}x1knpnx2|ϵn,p(k)| so ergibt sich:

k{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)ϵn,p(k))ϵ¯n,pk{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)

und im Limes n folgt:

limnϵn,p0k{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)ab<=0

Und daher gilt im Limes n:

P(x1Snnpnx2)=k{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)

Schritt 2

Im Folgenden wird für die Riemann-Summe die Integraldarstellung gezeigt:

limnk{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)=12πσ2x1x2exp(x22σ2)dx

Wir bilden ein äquidistantes Gitter Γn:={knpn|k=0,1,,n}R der Maschenweite 1n und können somit die Riemann-Summe in ein Riemannintegral überführen:

limnk{0,1,n}x1knpnx212πnσ2exp(n2σ2(knp)2)=limnxΓnx1xx212πσ2exp(n2σ2(knpn)2)1n=12πσ2x1x2exp(x22σ2)dx

Unter Verwendung der Ergebnisse aus Schritt 1 und Schritt 2 folgt die eingangs formulierte Behauptung:

limnP(x1Snnpnx2)=12πσ2x1x2exp(x22σ2)dx für alle x1,x2 mit x1<x2

Wikipedia-Verweis