Analyse af varians

Variansanalyse er en metode i matematisk statistik, der har til formål at finde afhængigheder i eksperimentelle data ved at undersøge betydningen af forskelle i gennemsnitsværdier [1] [2] . I modsætning til t-testen giver den dig mulighed for at sammenligne midlerne for tre eller flere grupper. Udviklet af R. Fisher til at analysere resultaterne af eksperimentelle undersøgelser. Betegnelsen ANOVA (fra engelsk. ANAlysis Of VARiance ) [3] findes også i litteraturen .

Typer af ANOVA

Essensen af variansanalyse er at studere indflydelsen af en eller flere uafhængige variable , sædvanligvis omtalt som faktorer, på den afhængige variabel . Afhængige variable er repræsenteret ved værdierne af absolutte skalaer (forholdsskala). Uafhængige variabler er nominative (navneskala), det vil sige, at de afspejler gruppetilhørsforhold og kan have to eller flere værdier (type, graduering eller niveau). Eksempler på en uafhængig variabel med to værdier ville være køn (kvinde: , mand: ) eller type behandlingsgruppe (kontrol: , eksperimentel: ). Gradationerne, der svarer til uafhængige prøver af objekter, kaldes intergruppe, og gradueringerne, der svarer til afhængige prøver, kaldes intragruppe. $X_{i}$ $X_{1}$ $X_{2}$ $X_{1}$ $X_{2}$

Afhængigt af typen og antallet af variabler er der:

univariat og multivariat variansanalyse (en eller flere uafhængige variable);
univariat og multivariat variansanalyse (en eller flere afhængige variable);
variansanalyse med gentagne målinger (for afhængige prøver);
variansanalyse med konstante faktorer, tilfældige faktorer og blandede modeller med faktorer af begge typer;

Matematisk model for variansanalyse

Den matematiske model for spredningsanalyse er et specialtilfælde af den grundlæggende lineære model . Lad metoderne bruges til at måle flere parametre, hvis nøjagtige værdier er . I dette tilfælde kan resultaterne af målinger af forskellige mængder ved forskellige metoder repræsenteres som: $A_{j}\ (1\leq j\leq m)$ $x_{i}\ (1\leq i\leq n)$ $\mu _{i}\ (1\leq i\leq n)$

$x_{{i,j}}=\mu _{{i}}+a_{{i,j}}+e_{{i,j}}$ ,

hvor:

$x_{{i,j}}$ er resultatet af måling af th parameter ved metoden ; $jeg$ $A_{{j}}$
$\mu _{{i}}$ er den nøjagtige værdi af parameteren -th; $jeg$
$a_{i,j}$ er den systematiske fejl ved måling af den th parameter i gruppen ifølge metoden ; $jeg$ $A_{{j}}$
$e_{{i,j}}$ er en tilfældig målefejl af den -te parameter ved metoden . $jeg$ $A_{{j}}$

Derefter varianserne af følgende tilfældige variable: (hvor:
$x_{{i,j}}$
$x_{{i,j}}-x_{{i,*}}-x_{{*,j}}+x_{{*,*}}$
$x_{{i,*}}$
$x_{{*,j}}$

$x_{{*,j}}={\frac {1}{n}}\sum _{{i}}x_{{i,j}},$

$x_{{i,*}}={\frac {1}{m}}\sum _{{j}}x_{{i,j}},$

$x_{{*,*}}={\frac {1}{nm}}\sum _{{i,j}}x_{{i,j}}$ )

er udtrykt som:

$s^{{2}}={\frac {1}{nm}}\sum _{{i}}\sum _{{j}}(x_{{i,j}}-x_{{*,* }})^{{2}}$

$s_{{0}}^{2}={\frac {1}{nm}}\sum _{{i}}\sum _{{j}}(x_{{i,j}}-x_{{ i,*}}-x_{{*,j}}+x_{{*,*}})^{{2}}$

$s_{{1}}^{2}={\frac {1}{n}}\sum _{{i}}(x_{{i,*}}-x_{{*,*}})^{ {2}}$

$s_{{2}}^{2}={\frac {1}{m}}\sum _{{j}}(x_{{*,j}}-x_{{*,*}})^{ {2}}$

og opfylde identiteten:

$s^{2}=s_{{0}}^{2}+s_{{1}}^{2}+s_{{2}}^{2}$

Variansanalyseproceduren består i at bestemme forholdet mellem systematisk (mellem grupper) varians og tilfældig (inden for gruppe) varians i de målte data. Som indikator for variabilitet bruges summen af kvadraterne af parameterværdiernes afvigelse fra middelværdien: (fra engelsk. Sum of Squares ). Det kan vises, at den samlede sum af kvadrater dekomponerer i en intergruppesum af kvadrater og en intragruppesum af kvadrater : $SS$ $SS_{\textrm {total))$ $SS_{\textrm {bg))$ $SS_{\textrm {wg))$

$SS_{\textrm {total}}=SS_{\textrm {bg}}+SS_{\textrm {wg}}$

Lad den nøjagtige værdi af hver parameter være dens matematiske forventning lig med populationsmiddelværdien . I mangel af systematiske fejl er gruppegennemsnittet og populationsgennemsnittet identiske: . Så er den tilfældige målefejl forskellen mellem måleresultatet og gruppegennemsnittet: . Hvis metoden har en systematisk effekt, så er den systematiske fejl under påvirkning af denne faktor forskellen mellem gruppegennemsnittet og befolkningsgennemsnittet: . $E(X)=M$ $M_{{j}}=M$ $x_{{i,j}}$ $x_{{i,j}}-M_{j}$ $A_{j}$ $M_{j}$ $M_{j}-M$

Så kan ligningen repræsenteres som følger: $x_{{i,j}}=\mu _{{i}}+a_{{i,j}}+e_{{i,j}}$

$x_{{i,j}}=M+(M_{j}-M)+(x_{{i,j}}-M_{j})$ , eller

$x_{{i,j}}-M=(M_{j}-M)+(x_{{i,j}}-M_{j})$ .

Derefter

${\begin{aligned}\sum _{{i=1}}^{{n_{j}}}(x_{{i,j}}-M)^{2}&=\sum _{{i= 1}}^{{n_{j}}}(M_{j}-M)^{2}+\sum _{{i=1}}^{{n_{j}}}(x_{{i, j}}-M_{j})^{2},\\\end{aligned}}$

hvor

$SS_{\textrm {total}}=\sum _{i=1}^{n_{j}}(x_{i,j}-M)^{2}$

$SS_{\textrm {bg}}=\sum _{i=1}^{n_{j}}(M_{j}-M)^{2}$

$SS_{\textrm {wg}}=\sum _{i=1}^{n_{j}}(x_{i,j}-M_{j})^{2}$

følgelig

$SS_{\textrm {total}}=SS_{\textrm {bg}}+SS_{\textrm {wg}}.$

Frihedsgrader dekomponeres på lignende måde:

$df_{\textrm {total}}=df_{\textrm {bg}}+df_{\textrm {wg}},$ hvor

$df_{\textrm {total}}=N-1,$

$df_{\textrm {bg}}=J-1,$

$df_{\textrm {wg}}=NJ,$

og er størrelsen af den fulde prøve, og er antallet af grupper. $N$ $J$

Så er variansen af hver del, omtalt i variansanalysemodellen som "middelkvadrat", eller (fra det engelske Mean Square ), forholdet mellem summen af kvadrater og antallet af deres frihedsgrader: $FRK$

$MS_{\textrm {total}}={\frac {SS_{\textrm {total}}}{N-1}}$

$MS_{\textrm {bg}}={\frac {SS_{\textrm {bg}}}{J-1}}$

$MS_{\textrm {wg}}={\frac {SS_{\textrm {wg}}}{NJ}}),$

Forholdet mellem intergruppe- og intragruppevarianser har en F -fordeling ( Fischer-fordeling ) og bestemmes ved hjælp af ( Fishers F -kriterium ):

$F_{df_{\textrm {bg}},df_{\textrm {wg}}}={\frac {MS_{\textrm {bg}}}{MS_{\textrm {wg}}}}.$

Principper og anvendelser

Udgangspunkterne for variansanalysen er

normal fordeling af værdierne af det undersøgte træk i den generelle befolkning;
lighed af varians i de sammenlignede populationer;
prøvens tilfældige og uafhængige karakter.

Nulhypotesen i variansanalysen er udsagnet om ligheden af gennemsnitsværdierne:

$H_{0}{:}\quad \mu _{1}=\mu _{2}=\dots =\mu _{j}.$

Når nulhypotesen forkastes, accepteres den alternative hypotese, at ikke alle midler er lige, det vil sige, at der er mindst to grupper, der adskiller sig i midler:

$H_{1}{:}\eksisterer i,j\i \{1,...,j\},i\neq j:\mu _{i}\neq \mu _{j}.$

Hvis der er tre eller flere grupper, bruges post-hoc t - tests eller kontrastmetoden til at bestemme forskellene mellem middelværdierne .

Envejsanalyse af varians

Det enkleste tilfælde af variansanalyse er en en-dimensionel envejsanalyse for to eller flere uafhængige grupper, når alle grupper kombineres efter én egenskab. Under analysen testes nulhypotesen om midlernes lighed. Ved analyse af to grupper er variansanalysen identisk med to-stikprøven Students t - test for uafhængige stikprøver, og værdien af F - statistikken er lig med kvadratet af den tilsvarende t -statistik .

For at bekræfte udsagnet om ligheden af dispersioner, bruges Levene's test normalt . Hvis hypotesen om varianslighed forkastes, er hovedanalysen ikke anvendelig. Hvis varianserne er ens, bruges Fishers F -kriterium til at vurdere forholdet mellem intergruppe og intragruppevariabilitet :

$F_{df_{\textrm {bg}},df_{\textrm {wg}}}={\frac {MS_{\textrm {bg}}}{MS_{\textrm {wg}}}}.$

Hvis F -statistikken overstiger den kritiske værdi, så kan nulhypotesen ikke accepteres (forkastes), og der drages en konklusion om midlernes ulighed. Når gennemsnittet af de to grupper analyseres, kan resultaterne fortolkes umiddelbart efter anvendelse af Fisher-testen .

Hvis der er tre eller flere grupper, kræves parvis sammenligning af middelværdier for at identificere statistisk signifikante forskelle mellem dem. A priori-analyse inkluderer metoden til kontraster, hvor intergruppesummen af kvadrater er opdelt i summen af kvadrater af individuelle kontraster:

$SS_{\textrm {bg}}=SS_{\psi _{1}}+SS_{\psi _{2}}+...+SS_{\psi _{n)),$

hvor der er en kontrast mellem middelværdierne for de to grupper, og derefter ved hjælp af Fisher -testen, kontrolleres forholdet mellem middelkvadraten for hver kontrast og inden for gruppens middelkvadrat: $\psi$

$F_{1,df_{\textrm {wg}}}={\frac {MS_{\psi _{i}}}{MS_{\textrm {wg}}}}.$

A posteriori-analyse omfatter post-hoc t- test ved brug af Bonferroni- eller Scheffe-metoderne, samt en sammenligning af gennemsnitlige forskelle ved hjælp af Tukey-metoden. Et træk ved post-hoc tests er brugen af et intragruppemiddelkvadrat til at evaluere ethvert middelpar. Bonferroni- og Scheffe-testene er de mest konservative, da de bruger den mindste kritiske region på et givet signifikansniveau . $MS_{\textrm {wg))$ $\alfa$

Ud over at estimere gennemsnittet inkluderer variansanalysen bestemmelsen af bestemmelseskoefficienten , der viser, hvilken andel af den samlede variabilitet denne faktor forklarer: $R^2$

$R^{2}={\frac {SS_{\textrm {bg}}}{SS_{\textrm {total}}}}.$

Multivariat variansanalyse

Multivariat analyse giver dig mulighed for at teste indflydelsen af flere faktorer på den afhængige variabel. Den lineære model af multifaktormodellen har formen:

$x_{{i,j,k}}=\mu _{{i}}+a_{{i,j}}+b_{{i,k}}+...+(ab)_{{i, j,k}}+e_{{i,j,k}}$ , hvor:

- $x_{{i,j,k}}$ er resultatet af måling af th parameter; $jeg$
- $\mu _{{i}}$ er gennemsnittet for den -th parameter; $jeg$
- $a_{i,j}$ er den systematiske fejl ved måling af den th parameter i gruppen ifølge metoden ; $jeg$ $j$ $EN$
- $b_{{i,k}}$ er den systematiske fejl ved måling af den th parameter i gruppen ifølge metoden ; $jeg$ $k$ $B$
- $(ab)_{{i,j,k}}$ er den systematiske fejl ved måling af den th parameter i gruppen på grund af kombinationen af metoder og ; $jeg$ $j,k$ $EN$ $B$
- $e_{{i,j,k}}$ er en tilfældig målefejl af den th parameter. $jeg$

I modsætning til den univariate model, hvor der er én intergruppesum af kvadrater, inkluderer den multivariate analysemodel kvadratsummen for hver faktor separat og kvadratsummen af alle interaktioner mellem dem. I tofaktormodellen er intergruppesummen af kvadrater således dekomponeret i summen af kvadrater af faktoren , summen af kvadraterne af faktoren og summen af kvadraterne af samspillet mellem faktorerne og : $EN$ $B$ $EN$ $B$

$SS_{\textrm {total}}=SS_{A}+SS_{B}+SS_{AB}+SS_{\textrm {wg}}.$

Følgelig inkluderer trefaktormodellen summen af kvadraterne af faktoren , summen af kvadraterne af faktoren , summen af kvadraterne på faktoren og summen af kvadraterne af faktorernes vekselvirkninger og , og , og samt samspillet mellem alle tre faktorer : $EN$ $B$ $C$ $EN$ $B$ $B$ $C$ $EN$ $C$ $A,B,C$

$SS_{\textrm {total}}=SS_{A}+SS_{B}+SS_{C}+SS_{AB}+SS_{BC}+SS_{AC}+SS_{ABC}+SS_{\ textrm{wg}}.$

Frihedsgraderne udvides på lignende måde:

$df_{\textrm {total}}=df_{A}+df_{B}+df_{AB}+df_{\textrm {wg)),$ hvor

$df_{\textrm {total}}=N-1,$

$df_{A}=J-1,$

$df_{B}=K-1,$

$df_{{AB}}=(J-1)(K-1),$

$df_{\textrm {wg}}=N-JK,$

og er volumen af den fulde prøve, er antallet af niveauer (grupper) af faktoren , og er antallet af niveauer (grupper) af faktoren . $N$ $J$ $EN$ $K$ $B$

Analysen tester flere nulhypoteser :

hypotese om ligheden af gennemsnit under indflydelse af faktoren : ; $EN$ $H_{0}{:}\ \mu _{1,*}=\mu _{2,*}=\dots =\mu _{j,*}$
hypotese om ligheden af gennemsnit under indflydelse af faktoren : ; $B$ ${\displaystyle H_{0}{:}\ \mu _{*,1}=\mu _{*,2}=\dots =\mu _{*,k))$
hypotese om fravær af interaktion af faktorer og : for alle og $EN$ $B$ $H_{0}{:}\ (ab)_{j,k}=0$ $j$ $k.$

Hver hypotese testes ved hjælp af Fisher-kriteriet:

$F_{df_{A},df_{\textrm {wg}}}={\frac {MS_{A}}{MS_{\textrm {wg}}}};$

$F_{df_{B},df_{\textrm {wg}}}={\frac {MS_{B}}{MS_{\textrm {wg}}}};$

$F_{df_{AB},df_{\textrm {wg}}}={\frac {MS_{AB}}{MS_{\textrm {wg}}}}.$

Når nulhypotesen om en enkelt faktors indflydelse afvises, accepteres udsagnet om, at der er en hovedeffekt af faktoren ( osv.). Når nulhypotesen om faktorernes vekselvirkning afvises, accepteres udsagnet om, at faktorens indflydelse manifesterer sig forskelligt på forskellige niveauer af faktoren . Normalt, i dette tilfælde, anerkendes resultaterne af den generelle analyse som ugyldige, og faktorens indflydelse kontrolleres separat på hvert niveau af faktoren ved hjælp af en envejs variansanalyse eller t - test . $EN$ $b,$ $EN$ $B$ $EN$ $B$

Noter

↑ Variansanalyse . Hentet 15. marts 2011. Arkiveret fra originalen 23. maj 2012. (ubestemt)
↑ Spredningsanalyse - artikel fra Great Soviet Encyclopedia . Bolshev, L.N..
↑ A. D. Nasledov. Matematiske metoder til psykologisk forskning. St. Petersborg, 2008. ISBN 5-9268-0275-X

Litteratur

Scheffe G. Dispersionsanalyse, trans. fra engelsk. - M., 1963.
Smirnov NV, Dunin-Barkovsky IV Kursus i sandsynlighedsteori og matematisk statistik til tekniske anvendelser. - 2. udgave - M. , 1965.

Ordbøger og encyklopædier	Stor russer
I bibliografiske kataloger	NKC : ph118416

Mindste kvadrater og regressionsanalyse

Beregningsstatistik _

Mindste kvadratisk metode
Lineær MNC
Ikke-lineære mindste kvadrater
LSM med iterativ genberegning af vægte

Korrelation
og afhængighed

Pearson korrelationskoefficient
Rangkorrelation ( Spearman
Kendall )
Delvis korrelation
Forvrængende faktor

Regressions analyse

Almindelig MNC
Delvis mindste kvadraters metode
Mindst fulde kvadrater
Ridge regression

Regression som
statistisk
model

Lineær regression	Simpel lineær regression Almindelig MNC Generaliserede mindste kvadrater Vægtede mindste kvadrater Grundlæggende lineær model
forudsigende struktur	Polynomisk regression vækstkurve Segmenteret regression Lokal regression
Brugerdefineret regression	ikke-lineær Ikke-parametrisk semi-parametrisk bæredygtige kvantil isotonisk
Ikke- standardfejl	Generaliseret lineær model Binomial regression Poisson regression Logistisk regression

Variansnedbrydning

Analyse af varians
Kovariansanalyse
Multivariat variansanalyse

Modelstudie

C p Mallows
Trinvis regression
Valg af statistisk model
Validering af regressionsmodel

Forudsætninger

Gennemsnitlig og forventet respons
Gauss-Markovs sætning
Fejl og afvigelser
Statistisk test
Studentiseret balance
Minimum gennemsnitlig kvadratfejl

Eksperiment planlægning

Responsoverflademetodologi
Optimalt eksperimentdesign
Bayesiansk eksperimentdesign

Numerisk
tilnærmelse

Ansøgninger

Approksimation ved hjælp af kurver
Kalibreringskurve
Savitsky-Golay filter
System identifikation
Flytning af mindste kvadraters metode