Lov om store tal

Den aktuelle version af siden er endnu ikke blevet gennemgået af erfarne bidragydere og kan afvige væsentligt fra den version , der blev gennemgået den 29. januar 2022; checks kræver 3 redigeringer .

Loven om store tal ( LNA ) i sandsynlighedsteori er et princip, der beskriver resultatet af at udføre det samme eksperiment mange gange. Ifølge loven er middelværdien af en endelig stikprøve fra en fast fordeling tæt på den matematiske forventning til denne fordeling.

Loven om store tal er vigtig, fordi den garanterer stabilitet for gennemsnittet af nogle tilfældige hændelser over en tilstrækkelig lang række af eksperimenter.

Det er vigtigt at huske, at loven kun gælder, når et stort antal retssager overvejes.

Eksempler

Overvej for eksempel et kast med en sekssidet terning, hvor et af tallene 1, 2, 3, 4, 5 eller 6 kan falde med lige stor sandsynlighed. Derfor er forventningen til ét kast

{\frac {1+2+3+4+5+6}{6}}=3{,}5.

Ifølge loven om store tal, med et stort antal kast, vil deres gennemsnitsværdi sandsynligvis være tæt på 3,5, mens nøjagtigheden vil stige i takt med at antallet af kast stiger.

Det følger af loven om store tal, at den empiriske sandsynlighed for succes i en række Bernoulli-forsøg konvergerer med den teoretiske sandsynlighed. For en Bernoulli tilfældig variabel er middelværdien den teoretiske sandsynlighed for succes, og middelværdien af sådanne variable (hvis de er uafhængige og ligeligt fordelt) er den relative frekvens. $n$

For eksempel er det at kaste den rigtige mønt en Bernoulli-test. Med ét kast er den teoretiske sandsynlighed for at få hoveder . Derfor bør andelen af "ørne" med et stort antal forsøg ifølge loven om store tal "være" ca. Især andelen af "hoveder" efter kast konvergerer til , kl . $1/2$ $1/2$ $n$ $1/2$ $n\til\infty$

Selvom andelen af hoveder (og haler) har en tendens til , er det næsten sikkert, at den absolutte værdi af forskellen mellem antallet af hoveder og haler bliver stor i takt med, at antallet af kast stiger i det uendelige. Det vil sige, at med en stigning i antallet af kast, vil sandsynligheden for, at forskellens modul vil være lille, gå til nul, og forholdet mellem modulus af forskellen og det samlede antal kast tenderer næsten helt sikkert til nul: $1/2$

|n_{\text{o}}-n_{\text{p}}|\ikke \to 0,\quad {\frac {|n_{\text{o}}-n_{\text{p }}|}{n}}\til 0.

Historie

Den italienske matematiker Gerolamo Cardano (1501-1576) var en passioneret gambler. Et "biprodukt" af hans kærlighed til terninger var bogen On Gambling ( italiensk: De Ludo alea , 1563), der indeholdt en formulering af loven om store tal. I den udtalte Cardano, at nøjagtigheden af empiriske statistikker har en tendens til at blive bedre med antallet af forsøg.

I 1713 skitserede Jacob Bernoulli reglerne for beregning af sandsynligheden for komplekse begivenheder og gav den første version af "loven om store tal", og forklarede, hvorfor hyppigheden af en begivenhed i en række tests ikke ændres tilfældigt, men i en eller anden forstand. har tendens til sin teoretiske grænseværdi (det vil sige sandsynlighed).

Det skal også bemærkes arbejdet af S. D. Poisson (1781-1840), som beviste en mere generel form for loven om store tal end Jacob Bernoullis .

P. L. Chebyshev opnåede en generel formulering af loven om store tal: hvis de matematiske forventninger til en række tilfældige variable og kvadraterne af disse matematiske forventninger er begrænset i aggregatet, så konvergerer det aritmetiske middelværdi af disse størrelser i sandsynlighed til det aritmetiske middel. for deres matematiske forventninger.

A. A. Markov beviste en variant af loven om store tal for nogle almindelige typer af afhængige mængder.

I det 20. århundrede blev forskningen i Chebyshev og Markov videreført af A. Ya. Khinchin og A. N. Kolmogorov . De viste, at hvis tilfældige variable ikke kun er uafhængige, men også ligeligt fordelte, så er eksistensen af deres matematiske forventning en nødvendig og tilstrækkelig betingelse for anvendeligheden af loven om store tal.

Indstillinger

Lad os overveje en sekvens af Lebesgue-integrerbare stokastiske variable , der er uafhængige i aggregatet og har de samme fordelinger og dermed de samme matematiske forventninger . $X_{1},X_{2},\dots$ $\mathbb {E} (X_{1})=\mathbb {E} (X_{2})=\ldots =\mu$

Betegn ved det aritmetiske middelværdi af de betragtede tilfældige variable: ${\overline {X}}_{n}$

{\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n}).

Det konvergerer til den matematiske forventning :

{\overline {X}}_{n}\to \mu

på

n\to \infty .

Uafhængighed i aggregatet af stokastiske variable kan erstattes af parvis uafhængighed i begge versioner af loven [1] .

To forskellige versioner af loven om store tal er beskrevet nedenfor. De kaldes den stærke lov om store tal og den svage lov om store tal . Forskellen mellem den stærke og den svage form hænger sammen med valget af konvergensmetode.

Svag lov

Den svage lov om store tal ( Bernoullis sætning , formuleret af J. Bernoulli , udgivet i 1713 [2] ) siger, at stikprøvegennemsnittet konvergerer i sandsynlighed til den matematiske forventning [3] :

{\overline {X}}_{n}\xrightarrow {P} \mu

på

n\to \infty .

Det vil sige, at den udføres $\forall \varepsilon >0$

\lim _{n\to \infty }P{\big (}|{\overline {X}}_{n}-\mu |>\varepsilon {\big )}=0.

Når vi fortolker dette resultat, finder vi, at den svage lov siger, at for alle specificerede grænser, der ikke er nul, uanset hvor små de er, givet en stor nok stikprøve, er sandsynligheden for, at stikprøvegennemsnittet vil være tæt på middelværdien, meget høj inden for disse . grænser.

Som tidligere nævnt er den svage lov gældende i tilfælde af uafhængige identisk fordelte stokastiske variable med matematisk forventning . Det kan dog også anvendes i nogle andre tilfælde. For eksempel kan variansen være forskellig for hver tilfældig variabel i stikprøven, men den matematiske forventning kan forblive konstant. Hvis spredningen er begrænset, så gælder loven også, som Chebyshev viste tilbage i 1867. Chebyshevs bevis virker så længe variansen af det gennemsnitlige antal første værdier ikke har en tendens til nul ved [4] . $n$ $n\til\infty$

Styrket lov

Den stærke lov om store tal siger, at der under visse betingelser, med en sandsynlighed på én, er en ubegrænset konvergens af de aritmetiske middelværdier af en sekvens af stokastiske variable med nogle konstante værdier.

Lade være en sekvens af tilfældige variable og . $X_{1},X_{2},\dots$ ${\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n})$

En sekvens siges at opfylde den stærke lov om store tal, hvis der eksisterer en sekvens, således at sandsynligheden for sammenhængen: , for er lig med 1. $X_{1},X_{2},\dots$ $\mu _{n}$ ${\overline {X}}_{n}-\mu _{n}\to 0$ $n\til\infty$

En anden formulering, svarende til den foregående, er som følger: en sekvens opfylder den stærke lov om store tal, hvis sandsynligheden for samtidig opfyldelse af alle uligheder $X_{1},X_{2},\dots$ $\forall \varepsilon >0$

|{\overline {X}}_{n}-\mu _{n}|\leqslant \varepsilon ,

|{\overline {X}}_{n+1}-\mu _{n+1}|\leqslant \varepsilon ,

\prikker

har tendens til 1 kl . $n\til\infty$

Således betragtes opførselen af hele sekvensen af summer som helhed her, mens vi i den sædvanlige lov om store tal kun taler om individuelle summer.

Hvis en sekvens opfylder den stærke lov om store tal, så opfylder den også den sædvanlige lov for store tal med det samme , Det vil sige , For , . $X_{1},X_{2},\dots$ $\mu _{n}$ $P{\big (}|{\bar {X}}_{n}-\mu _{n}|\leqslant \varepsilon {\big )}\to 1$ $n\til\infty$ $\forall \varepsilon >0$

Det omvendte er muligvis ikke sandt. For eksempel, hvis tilfældige variable er uafhængige og har to værdier med en sandsynlighed hver, så er den sædvanlige lov for store tal opfyldt for dem med , men for ingen er den stærke lov for store tal opfyldt. $X_{1},X_{2},\dots$ $n\geqslant 16$ $\pm {\sqrt {n/\log \log \log n))$ $1/2$ $\mu _{n}=0$ $\mu _{n}$

Kolmogorovs teorem

I tilfælde af uafhængige termer er de mest kendte betingelserne for anvendeligheden af den stærke lov om store tal, fastsat af A. N. Kolmogorov: tilstrækkelig - for mængder med endelige varianser og nødvendige og tilstrækkelige - for identisk fordelte mængder (som består i eksistensen af den matematiske forventning om mængder ). Kolmogorovs sætning for stokastiske variable med endelige varianser siger, at fra betingelsen $X_{i}$

$\sum \limits _{n=1}^{\infty }{\frac {D[X_{n}]}{n^{2))}<\infty$

(en)

anvendeligheden af den stærke lov om store tal med til rækkefølgen følger . Med hensyn til varians viser betingelse ( 1 ) sig at være den bedste i den forstand, at man for enhver sekvens af positive tal med en divergerende række kan konstruere en sekvens af uafhængige stokastiske variable c , der ikke opfylder den stærke lov om store tal . [5] $X_{1},X_{2},\dots$ $A_{n}=\mathbb {E} ({\overline {X}}_{n})$ $b_n$ $\sum b_{n}/n^{2}$ $X_n$ $DX_{n}=b_{n}$

Forskelle mellem svag lov og stærk lov

Den svage lov siger, at for en given stor vil middelværdien sandsynligvis være tæt på . Det kan således forekomme uendeligt mange gange, dog vilkårligt sjældent. ( Ikke nødvendigvis sandt for alle .) $n$ ${\overline {X}}_{n}$ $\mu$ $|{\overline {X}}_{n}-\mu |>\varepsilon$ $n$ $|{\overline {X}}_{n}-\mu |\neq 0$

Den håndhævede lov viser, hvad der næsten helt sikkert ikke vil ske. Det betyder, at vi med sandsynlighed 1 har, at uligheden holder for tilstrækkelig stor . [6] $|{\overline {X}}_{n}-\mu |>\varepsilon$ $\forall \varepsilon >0$ $|{\overline {X}}_{n}-\mu |<\varepsilon$ $n$

Nedenfor er tre eksempler på symmetriske fordelinger; i hvert eksempel har disse fordelinger ikke en matematisk forventning, den stærke lov om store tal (konvergens næsten overalt) holder ikke, men den svage lov er opfyldt: gennemsnittet af stokastiske variable konvergerer i sandsynlighed til en konstant, symmetricentret for deres fordeling. [7] [8] [9]

Lad være en eksponentielt fordelt stokastisk variabel med parameter 1. Den stokastiske variabel har ingen matematisk forventning givet af Lebesgue-integralet, men ved at bruge betinget konvergens og fortolkning af integralet som et Dirichlet-integral , som er et ukorrekt Riemann-integral , kan vi sige: $x$ ${\frac {\sin(x)e^{x}}{x}}$ $\mathbb {E} \left({\frac {\sin(x)e^{x}}{x}}\right)=\int _{0}^{\infty }{\frac {\ sin(x)e^{x}}{x}}e^{-x}\,dx={\frac {\pi }{2}}.$
Lade være en geometrisk fordeling med sandsynlighed . En tilfældig variabel har ingen forventet værdi i sædvanlig forstand, da en uendelig række ikke er absolut konvergent , men ved hjælp af betinget konvergens kan man sige: $x$ $0{,}5$ ${\frac {2^{x}(-1)^{x}}{x}}$ $\mathbb {E} \left({\frac {2^{x}(-1)^{x}}{x}}\right)=\sum _{1}^{\infty }{\ frac {2^{x}(-1)^{x}}{x}}2^{-x}=-\ln(2).$
Hvis fordelingsfunktionen af den stokastiske variabel er lig med $1-F(x)={\frac {e}{2x\ln(x))),\quad x\geqslant e,$ $F(x)={\frac {e}{-2x\ln(-x))),\quad x\leqslant -e,$ så har den ingen matematisk forventning, men den svage lov er opfyldt. [10] [11]

Ensartet lov om store tal

Lade være en funktion, der er defineret og kontinuerlig med hensyn til variablen . Så for enhver fast vil sekvensen være en sekvens af uafhængige og identisk fordelte tilfældige variable, således at prøvegennemsnittet for denne sekvens konvergerer i sandsynlighed til . $f(x,\theta )$ $\theta \i \Theta$ $\theta$ ${\displaystyle \{f(X_{1},\theta ),f(X_{2},\theta ),\dots \))$ $\mathbb {E} [f(X,\theta )]$

Den ensartede lov om store tal beskriver de forhold, hvorunder konvergensen er ensartet i . $\theta$

Hvis: [12] [13]

$\Theta$ kompakt,
$f(x,\theta )$ er kontinuerlig for hver for næsten alle og en målbar funktion af ved hver , $\theta \i \Theta$ $x$ $x$ $\theta$
der eksisterer en dominerende funktion, således at og for alle , $d(x)$ $\mathbb {E} [d(X)]<\infty$ $\|f(x,\theta )\|\leqslant d(x)$ $\theta \i \Theta$

derefter løbende i og $\mathbb {E} [f(X,\theta )]$ $\theta$

\sup _{\theta \in \Theta }\left\|{\frac {1}{n}}\sum _{i=1}^{n}f(X_{i},\theta ) -\mathbb {E} [f(X,\theta )]\højre\|\xhøjrepil {\tekst{n.  n.}} 0.

Borel lov om store tal

Borels lov om store tal, opkaldt efter Émile Borel , siger, at hvis et eksperiment gentages mange gange uafhængigt under de samme betingelser, så er brøkdelen af gange, en hvilken som helst specificeret begivenhed indtræffer, omtrent lig med sandsynligheden for, at begivenheden indtræffer i et bestemt forsøg; jo større antal gentagelser, jo bedre tilnærmelse. Mere præcist, hvis angiver den pågældende begivenhed - sandsynligheden for dens forekomst, og - antallet af gange, den forekommer i de første forsøg, så med en sandsynlighed på 1 [14] $E$ $s$ $N_{n}(E)$ $E$ $n$

{\frac {N_{n}(E)}{n}}\to p,\quad n\to \infty .

Chebyshevs ulighed

Lade være en tilfældig variabel med endelig matematisk forventning og endelig ikke-nul varians . Så for ethvert reelt tal $x$ $\mu$ $\sigma ^{2}$ $k>0$

P{\big (}|X-\mu |\geqslant k\sigma {\big )}\leqslant {\frac {1}{k^{2))}.

Bevis for den svage lov

Overvej en uendelig sekvens af uafhængige og identisk fordelte stokastiske variable med en endelig matematisk forventning . Vi er interesserede i konvergens i sandsynlighed $X_{1},X_{2},\dots$ $\mathbb {E} (X_{1})=\mathbb {E} (X_{2})=\ldots =\mu <\infty$

{\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n}).

Sætning

{\overline {X}}_{n}\xrightarrow {P} \mu

på

n\to \infty .

Bevis ved hjælp af Chebyshevs ulighed, forudsat endelig varians

Antagelsen om en endelig varians er valgfri. Stor eller uendelig varians sænker konvergensen, men LPA'en holder alligevel. $D(X_{1})=D(X_{2})=\ldots =\sigma ^{2}<\infty$

Dette bevis bruger den endelige variansantagelse (for alle ). Tilfældige variables uafhængighed indebærer ikke en sammenhæng mellem dem, det har vi $\operatørnavn {D} (X_{i})=\sigma ^{2}$ $jeg$

\operatorname {D} ({\overline {X}}_{n})=\operatørnavn {D} {\big (}{\tfrac {1}{n}}(X_{1}+\ldots +X_{n}){\big )}={\frac {1}{n^{2}}}\operatørnavn {D} (X_{1}+\ldots +X_{n})={\frac { n\sigma ^{2}}{n^{2}}}={\frac {\sigma ^{2}}{n}}.

Den matematiske forventning til en sekvens er middelværdien af prøvegennemsnittet: $\mu$

\mathbb {E} ({\overline {X}}_{n})=\mu .

Ved at bruge Chebyshev-uligheden for , opnår vi ${\overline {X}}_{n}$

\operatorname {P} {\big (}|{\overline {X}}_{n}-\mu |\geqslant \varepsilon {\big )}\leqslant {\frac {\sigma ^{2} }{n\varepsilon ^{2}}}.

Vi bruger denne ulighed til at opnå følgende:

\operatorname {P} {\big (}|{\overline {X}}_{n}-\mu |<\varepsilon {\big )}=1-\operatørnavn {P} {\big (} |{\overline {X}}_{n}-\mu |\geqslant \varepsilon {\big )}\geqslant 1-{\frac {\sigma ^{2}}{n\varepsilon ^{2}}} .

Når udtrykket har en tendens til 1. $n\til\infty$

Nu, ved definitionen af konvergens i sandsynlighed, får vi:

{\overline {X}}_{n}\xrightarrow {P} \mu

kl .

n\til\infty

Bevis ved hjælp af konvergens af karakteristiske funktioner

Ved Taylors teorem for komplekse funktioner kan den karakteristiske funktion af enhver tilfældig variabel med et endeligt middelværdi skrives som $x$ $\mu$

\varphi _{X}(t)=1+it\mu +o(t),\quad t\to 0.

Alle har den samme karakteristiske funktion, lad os betegne det som . $X_{1},X_{2},\dots$ $\varphi _{X}$

Blandt de vigtigste egenskaber ved karakteristiske funktioner fremhæver vi to egenskaber:

\varphi _{{\frac {1}{n}}X}(t)=\varphi _{X}{\big (}{\tfrac {t}{n}}{\big )},

\varphi _{X+Y}(t)=\varphi _{X}(t)\,\varphi _{Y}(t),

hvor og er uafhængige. $x$ $Y$

Disse regler kan bruges til at beregne den karakteristiske funktion i form af : ${\overline {X}}_{n}$ $\varphi _{X}$

\varphi _{{\overline {X}}_{n}}(t)=\left[\varphi _{X}\left({\frac {t}{n}}\right)\right ]^{n}=\venstre[1+i\mu {\frac {t}{n}}+o\left({\frac {t}{n}}\right)\right]^{n}\ til e^{it\mu }

på

n\to \infty .

Grænsen er en karakteristisk funktion af en konstant og konvergerer derfor ved Lévys kontinuitetsteorem i fordeling til : ${\displaystyle e^{it\mu ))$ $\mu$ ${\overline {X}}_{n}$ $\mu$

{\overline {X}}_{n}\xrightarrow {\mathcal {D}} \mu

på

n\to \infty .

Da er en konstant, følger det, at konvergens i fordeling til og konvergens i sandsynlighed for er ækvivalente. Derfor $\mu$ $\mu$ $\mu$

{\overline {X}}_{n}\xrightarrow {\mathcal {P}} \mu

på

n\to \infty .

Dette viser, at stikprøvegennemsnittet i sandsynlighed konvergerer til den afledte af den karakteristiske funktion ved oprindelsen, hvis den eksisterer.

Se også

Noter

↑ Etemadi, N. Z. (1981). "Et elementært bevis på de store tals stærke lov". Wahrscheinlichkeitstheorie verwiete . 55 (1): 119-122. doi: 10.1007/BF01013465 .
↑ Paskhaver, 1974 , s. 34.
↑ Loève 1977, kapitel 1.4, s. fjorten.
↑ Yuri Prohorov . "Lov om store tal" Arkiveret 26. juli 2018 på Wayback Machine . Encyclopedia of Mathematics .
↑ Yu. V. Prokhorov. Et stort antal styrkede loven . Matematisk bibliotek . Hentet 28. marts 2018. Arkiveret fra originalen 28. marts 2018. (ubestemt)
↑ Ross (2009).
↑ Lehmann, Erich L.; Romano, Joseph P. (2006-03-30). Svag lov konvergerer til konstant . ISBN 9780387276052 .
↑ Dguvl Hun Hong og Sung Ho Lee. "EN NOTE OM DEN SVAGE LOV OM STORE TAL FOR UDBYTTE TILFÆLDIGE VARIABLER" . Arkiveret 1. juli 2016 på Wayback Machine .
↑ "svag lov om store tal: bevis ved hjælp af karakteristiske funktioner vs bevis ved brug af trunkeringsVARIABLER" Arkiveret 22. marts 2018 på Wayback Machine . Matematik stak udveksling.
↑ Mukherjee, Sayan. "Loven om store tal" . Arkiveret 9. marts 2013 på Wayback Machine .
↑ J. Geyer, Charles. "Lov om store tal" Arkiveret 13. juni 2018 på Wayback Machine .
↑ Newey & McFadden 1994, Lemma 2.4.
↑ Jennrich, Robert I. (1969). "Asymptotiske egenskaber ved ikke-lineære mindste kvadraters estimatorer". Den matematiske statistiks annaler . 40 (2): 633-643. doi: 10.1214/aoms/1177697731 .
↑ Wen, L. En analyseteknik til at bevise Borels stærke lov om store tal . Er. Matematik. Måned, 1991.

Litteratur

Chistyakov V. P. Sandsynlighedsteori kursus. — M .: Nauka, 1982.
Shiryaev A. N. Sandsynlighed. — M .: Nauka, 1989.
Paskhaver IS Lov om store tal og statistiske regelmæssigheder. — M .: Statistik, 1974.
Bernoullis sætning / V. I. Bityutskov // Great Russian Encyclopedia : [i 35 bind] / kap. udg. Yu. S. Osipov . - M . : Great Russian Encyclopedia, 2004-2017.

Ordbøger og encyklopædier	Fantastisk catalansk Fantastisk norsk Stor russer Britannica (online)
I bibliografiske kataloger	BNF : 11978788d GND : 4157077-7 J9U : 987007558155705171 LCCN : sh85075318 SUDOC : 027830632