Robusthed

Den aktuelle version af siden er endnu ikke blevet gennemgået af erfarne bidragydere og kan afvige væsentligt fra den version , der blev gennemgået den 6. oktober 2017; checks kræver 7 redigeringer .

Robusthed ( eng. robustness ← robust "stærk; stærk; solid; stabil") er en egenskab ved en statistisk metode , der karakteriserer uafhængigheden af indflydelse på resultatet af undersøgelsen af forskellige former for emissioner , modstandsdygtighed over for interferens.

Outlier (robust) metode - en metode, der sigter på at identificere outliers, reducere deres indvirkning eller udelukke dem fra stikprøven .

I praksis kan tilstedeværelsen i stikprøverne af selv et lille antal outliers (outliers) i høj grad påvirke resultatet af undersøgelsen, for eksempel er mindste kvadraters metode og maksimum sandsynlighedsmetoden på specifikke fordelinger underlagt sådanne forvrængninger, og værdier opnået som et resultat af undersøgelsen kan ophøre med at have nogen mening for dig selv. For at eliminere indflydelsen af sådan interferens, bruges forskellige tilgange til at reducere indflydelsen af "dårlige" observationer (outliers) eller fuldstændigt at eliminere dem. Outlier-metodernes hovedopgave er at skelne en "dårlig" observation fra en "god", og selv den simpleste tilgang, subjektiv (baseret på forskerens indre følelser), kan dog være til stor fordel for motiveret afvisning, forskere bruger stadig metoder, der er baseret på en streng matematisk begrundelse. Denne proces er en meget ikke-triviel opgave for en statistiker og definerer et af områderne inden for statistisk videnskab .

Begrebet udbrudsstabilitet (robusthed)

Overvej et klassisk eksempel på robuste og ikke-robuste egenskaber til beregning af gennemsnitsindkomsten. Lad der være 10 personer, hvoraf ni tjener 100 rubler hver, og en tjener 500 rubler. Det aritmetiske gennemsnit af tallene er 140, selvom 90 % af personerne i stikprøven tjener mindre. Samtidig er prøvens median 100: en meget anderledes værdi påvirkede ikke værdien af medianen. Medianen er således et eksempel på en robust karakteristik, mens den aritmetiske middelværdi ikke er det.

Outlier stabilitet (robusthed) i statistik forstås som følsomhed over for forskellige afvigelser og inhomogeniteter i prøven, forbundet med visse, generelt ukendte, årsager [1] [2] . Det kan være detektorfejl, der registrerer observationer, nogens samvittighedsfulde eller bevidste forsøg på at "passe" prøven, før den kommer ind i statistikken, designfejl, tastefejl, der har sneget sig ind og meget mere. For eksempel er det mest afvigende estimat af fordelingslovforskydningsparameteren medianen , hvilket er ret indlysende på et intuitivt niveau (for et strengt bevis bør man bruge det faktum, at medianen er et trunkeret M-estimat, se nedenfor ) [ 1] . Udover direkte "defekte" observationer kan der også være en række observationer, der følger en anden fordeling . På grund af betingelserne for distributionslovene , og dette er intet andet end en beskrivelsesmodel, kan prøven i sig selv indeholde nogle uoverensstemmelser med idealet.

Ikke desto mindre er den parametriske tilgang blevet så vant, som beviser dens enkelhed og hensigtsmæssighed, at det er absurd at nægte det. Derfor blev det nødvendigt at tilpasse gamle modeller til nye opgaver.

Det er værd at understrege hver for sig og ikke glemme, at de afviste observationer har brug for separat, nærmere opmærksomhed. Observationer, der virker "dårlige" for én hypotese, kan meget vel være i overensstemmelse med en anden. Endelig er på ingen måde altid skarpt adskilte observationer et "ægteskab". En sådan observation for genteknologi er for eksempel værd at millioner af andre, der adskiller sig lidt fra hinanden.

Grundlæggende fremgangsmåder

For at begrænse indflydelsen af inhomogeniteter, eller for at eliminere den helt, er der mange forskellige tilgange. Blandt dem skiller to hovedretninger sig ud.

Gruppering af data uden at slette individuelle observationer (for at reducere muligheden for prøvebeskadigelse af individuelle afvigere). Derefter er det med en tilstrækkelig grad af tillid tilladt at bruge klassiske metoder til statistik .

Spor emissioner direkte i analyseprocessen. For at bestemme parametrene for distributionsloven er det for eksempel muligt at bruge en iterativ procedure med trunkerede eller th - reducerede M-estimater [1] .

Gruppering af data som en metode til afvigende statistik

Ved at gruppere stikprøven kan indflydelsen af individuelle observationer reduceres drastisk uden at kassere dem. Inddelingen i intervaller er ikke særlig svær og giver et meget håndgribeligt resultat. Der er tre mest almindelige partitioneringsmetoder.

Opdeling i intervaller af samme længde. Den enkleste og derfor mest almindelige måde.

Equal probability binning, også kaldet lige frekvensgruppering, afspejler den praktiske implementering af denne metode. Som et resultat af en sådan gruppering af prøven maksimeres informationsentropien , hvor den højeste asymptotiske styrke af goodness -of-fit-kriteriet opnås , eller sandsynlighedsforholdskriteriet [3] . $\sum {-P_{i}}\ln {P_{i}}$ $P_{i}=\int \limits _{x_{i-1}}^{x_{i}}f(x)\,\mathrm {d} x$ $\chi ^{2}$

Opdeling i asymptotisk optimale intervaller. Med en sådan partition minimeres tabet af information som følge af gruppering, det vil sige, at Fisher-informationen maksimeres , hvor er lovens estimerede parameter. For mange distributionslove var det muligt at opnå intervalgrænser invariante med hensyn til parametre, og de tilsvarende tabeller blev kompileret. En sådan partition giver os mulighed for at maksimere kraften i kriteriet . $\sum \left({\frac {\partial \ln P_{i}}{\partial \theta }}\right)^{2}P_{i}$ $\theta$

Influence function approach

En separat tilgang i konstruktionen af outlier-metoder er estimeringen af parametrene i distributionsloven for en "forurenet" prøve ved at bruge den fremgangsmåde, som Hampel har foreslået [1] . For at studere indflydelsen af en enkelt observation på vurderingen (statistik under overvejelse) af en eller anden parameter i distributionsloven, introducerer Hampel den såkaldte indflydelsesfunktion , som ikke er andet end en afledt af denne statistik .

Grundlæggende begreber

Den funktionelle introduceres som en funktion af en prøve fra fordelingen med parameteren (det er også ). afhænger af . Det samme er en funktion af loven og af parameteren . Lad også opfylde nogle betingelser for konsistens og regelmæssighed : $T$ $X=(X_{1}\ldots X_{n})\in \mathbb {X}$ $F$ $\theta \i \Theta$ $F_{\theta }$ $T$ ${\displaystyle X:F_{\theta ))$ $T$ $F$ $\theta$ $T$

T(F)=\theta ,\quad \int T\,\mathrm {d} F=0.

Den afledte af denne funktional på et punkt med fordeling : $T$ $F$

\exists \,a:\quad \lim _{t\to 0}{\frac {T((1-t)F+tG)-T(F)}{t}}:=\int a \,\mathrm {d} G,

hvor:

$-en$ - en bestemt funktion, hvis betydning vil blive klar i det næste trin;
$G$ er en eller anden distributionslov forskellig fra . $F$

Ved substitution tilskrives begivenheden en enhedsmasse i stedet for, som følge heraf kun : $\Delta _{x}$ $X=x$ $G$ $økse)$

IF=\lim _{t\to 0}{\frac {T((1-t)F+t\Delta _{x})-T(F)}{t)).

Denne funktion kaldes indflydelsesfunktionen .

Betydningen af indflydelsesfunktionen demonstreres ved at erstatte og erstatte grænsen, som et resultat, udtrykket konverteres til , hvilket svarer til situationen, når en anden ny tilføjes til stikprøven bestående af observationer, der adlyder fordelingen . Således sporer den reaktionen af den brugte funktionalitet på den tilføjede tilføjelse, og viser virkningen af bidraget fra en enkelt observation på vurderingen over hele datasættet. ${\frac {1}{n}}$ $t$ $F_{t,x}=(1-t)F+t\Delta _{x}$ $F_{{\frac {1}{n)),x}={\frac {(n-1)F+\Delta _{x}}{n}}$ $(n-1)$ $F$ $IF$ $T$ $x$

For at karakterisere indflydelsen af individuelle observationer introduceres også begrebet følsomhed over for en stor fejl : $\gamma$

\gamma =\sup _{{x\in {\mathbb {X}}}}|HVIS(x)|.

Hvis påvirkningsfunktionen er begrænset, kaldes det tilsvarende estimat B(be)-robust .

M-scores

De mest effektive og udbredte estimater af parametrene for distributionslove er maksimumsandsynlighedsestimater (MLE'er), som bestemmes af en af følgende betingelser:

\sum _{i}\ln P_{i}\to \max _{\theta \in \Theta },\qquad \sum _{i}{\frac {\partial \ln P_{i)) {\partial \theta }}=0,\qquad \sum _{i}{\frac {P_{i}'}{P_{i}}}=0,

hvor i tilfælde af en ikke-grupperet prøve , og i tilfælde af en grupperet prøve, $P_{i}=f(x_{i},\theta )$ $P_{i}=\left(\int \limits _{x_{i-1}}^{x_{i}}f(x,\theta)\,\mathrm {d} x\right)^ {n_{i}}$

M-estimater - der er en vis generalisering af masseødelæggelsesvåben. De defineres på samme måde af en af relationerne:

\sum _{i=1}^{N}\rho (x_{i},\theta )\to \max _{\theta \in \Theta },\qquad \sum _{i=1} ^{N}\phi (x_{i},\theta )=0.

Hvis vi pålægger en regularitetsbetingelse i substitutionen og differentierer den med hensyn til 0: $F_{t,x}=(1-t)F+t\Delta _{x}$ $t$

0={\frac {\partial }{\partial {t))}\int \phi (x,T(F_{t,x}))\,\mathrm {d} F_{t,x}

0=\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}IF\,\mathrm {d} F_{t,x} +\int \phi (x,T(F_{t,x}))\,\mathrm {d} {\frac {\partial ((1-t)F+t\Delta _{x})}{\ delvis t}}

0=IF\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}\,\mathrm {d} F_{t,x} +\phi (x,T(F_{t,x})),

så er det ikke svært at få udtryk for indflydelsesfunktionen for M-estimater :

IF={\frac {-\phi (x)}{\int \phi '_{\theta }(x)\,\mathrm {d} F)).

Dette udtryk giver os mulighed for at konkludere, at M-estimaterne er ækvivalente op til en konstant faktor, der ikke er nul.

Det er let at kontrollere, at for MLE i standard normalfordelingsloven ser indflydelsesfunktionerne af henholdsvis skiftparameteren og skalaparameteren ud: ${\mathcal {N}}(0,1)$ $IF$

IF=x,\quad IF={\frac {1}{2}}\;x^{2}-{\frac {1}{2}}.

Disse funktioner er ubegrænsede, hvilket betyder, at MLE'en ikke er udbrudstolerant (robust) med hensyn til B-robusthed.

For at rette op på dette begrænser M-estimater kunstigt, og derfor begrænser det (se udtrykket for M-estimater), og sætter en øvre barriere for påvirkningen af outliers (langt fra de forventede værdier af parametrene) observationer. Dette gøres ved at introducere de såkaldte trunkerede M-estimater, defineret ved udtrykket: $IF$ $IF$

\phi _{b}(z)=\venstre\{{\begin{array}{lr}\phi (b),&b<z\\\phi (z),&-b<z\leqslant b\\\phi (-b),&z\leqslant -b\end{array}}\right\},

hvor og er estimater af henholdsvis skift- og skalaparametrene. $z={\frac {x-\theta }{S}}$ $\theta$ $S$

Blandt de trunkerede M-estimater er de trunkerede MLE [1] optimale ud fra et B-robusthedssynspunkt .

Parametervurderingsprocedure

At løse ligningen

\sum _{i=1}^{N}\phi (x_{i},\theta )=0

en eller anden numerisk metode skal bruges . For at gøre dette skal du vælge de indledende tilnærmelser. Nulforskydningsparameteren er normalt medianen , og skalaparameteren er et multiplum af medianen af afvigelserne fra medianen.

For eksempel, hvis du skal estimere forskydningsparameteren, f.eks. for normalfordelingsloven , kan du bruge Newtons metode til numerisk at finde rødderne til ligningen . Som et resultat reduceres hele proceduren for at finde parameteren til den iterative beregning af udtrykket:

\theta _{{k+1}}=\theta _{k}-{\frac {\sum _{{i=1}}^{N}\phi (x_{i},\theta _{k} )}{\sum _{{i=1}}^{N}\phi '_{\theta }(x_{i},\theta _{k))}}=\theta _{k}-{\ frac {\sum _{{i=1}}^{N}\phi \left((x_{i}-\theta _{k})/S\right)}{\sum _{{i=1} }^{N}\phi '_{\theta }\left((x_{i}-\theta _{k})/S\right)))=\theta _{k}+S{\frac {\ sum _{{i=1}}^{N}\phi \left(z\right)}{\sum _{{i=1}}^{N}\phi '_{z}\left(z\ ret)}},

hvor er et estimat af den skalaparameter, der bruges til at udligne fordelinger med forskellige områder. $S$

Se også

Omskoling
Marelliers sætning

Noter

↑ 1 2 3 4 5 Hampel F., Ronchetti E., Rausseu P., Stael W. Robusthed i statistik. Robust statistik: tilgangen baseret på indflydelsesfunktioner . — M .: Mir, 1989.
↑ Huber P. Robusthed i statistik. — M .: Mir, 1984.
↑ Kendall M., Stewart A. Statistical inference and associations. — M .: Nauka, 1973.

Litteratur

Robert G. Staudte: Robust estimering og test . Wiley, New York 1990. ISBN 0-471-85547-2
Rand R. Wilcox: Introduktion til robust estimering og hypotesetestning . Academic Press, San Diego Cal 1997. ISBN 0-12-751545-3