Multivariat normalfordeling

Den aktuelle version af siden er endnu ikke blevet gennemgået af erfarne bidragydere og kan afvige væsentligt fra den version , der blev gennemgået den 7. april 2020; checks kræver 5 redigeringer .

Multivariat normalfordeling (eller multivariat Gauss-fordeling ) i sandsynlighedsteori er en generalisering af en-dimensionel normalfordeling . En tilfældig vektor med en multivariat normalfordeling kaldes en Gaussisk vektor [1] .

Definitioner

En tilfældig vektor har en multivariat normalfordeling, hvis en af følgende ækvivalente betingelser er sande: ${\mathbf {X}}=(X_{1},\ldots,X_{n})^{{\top }}:\Omega \to {\mathbb {R}}^{n}$

En vilkårlig lineær kombination af vektorkomponenter har en normalfordeling eller er en konstant (denne sætning virker kun, hvis den matematiske forventning er 0). $\sum \limits _{{i=1}}^{n}a_{i}X_{i}$
Der er en vektor af uafhængige standard normale tilfældige variabler , en reel vektor og en dimensionsmatrix , sådan at: ${\mathbf {Z}}=(Z_{1},\ldots,Z_{m})^{{\top }}$ ${\mathbf {\mu }}=(\mu _{1},\ldots ,\mu _{n})^{{\top }}$ $\mathbf {A}$ $n \ gange m$

{\mathbf {X}}={\mathbf {A}}{\mathbf {Z}}+{\mathbf {\mu }}

Der er en vektor og en ikke-negativ bestemt symmetrisk matrix af dimension , sådan at vektorens karakteristiske funktion har formen: ${\mathbf {\mu }}\in {\mathbb {R}}^{n}$ ${\mathbf {\Sigma ))$ $n\ gange n$ $\mathbf {X}$

\phi _{{{\mathbf {X}}}}({\mathbf {u}})=e^{{i{\mathbf {\mu }}^{{\top }}{\mathbf {u} }-{\frac {1}{2}}{\mathbf {u}}^{{\top }}\Sigma {\mathbf {u}}}},\;{\mathbf {u}}\in { \mathbb {R}}^{n}

Tætheden af den ikke-degenererede normalfordeling

Hvis vi kun betragter fordelinger med en ikke-singular kovariansmatrix , vil følgende definition også være ækvivalent:

Der er en vektor og en positiv-definitiv symmetrisk matrix af dimension , sådan at vektorens sandsynlighedstæthed har formen [2] ::

{\mathbf {\mu }}\in {\mathbb {R}}^{n}

{\mathbf {\Sigma ))

n\ gange n

\mathbf {X}

f_{{{\mathbf {X}}}}({\mathbf {x}})={\frac {1}{(2\pi )^{{n/2}}\vert \Sigma \vert ^{ {1/2}}}}e^{{-{\frac {1}{2}}({\mathbf {x}}-{\mathbf {\mu }})^{{\top }}\Sigma ^{{-1}}({\mathbf {x}}-{\mathbf {\mu }})))),\;{\mathbf {x}}\i {\mathbb {R}}^{n }

, hvor er determinanten for matricen , og er matrixen invers til

\vert \Sigma \vert

\Sigma

\Sigma ^{{-1}}

\Sigma

Vektoren er middelvektoren og er dens kovariansmatrix . ${\mathbf {\mu ))$ $\mathbf {X}$ $\Sigma$
I tilfælde af reduceres den multivariate normalfordeling til den almindelige normalfordeling. $n=1$
Hvis den tilfældige vektor har en multivariat normalfordeling, så skriv . $\mathbf {X}$ $\mathbf {X} \sim {\mathcal {N))(\mathbf {\mu } ,\Sigma )$

Bivariat normalfordeling

Et særligt tilfælde af den multivariate normalfordeling er den bivariate normalfordeling. I dette tilfælde har vi to tilfældige variable med matematiske forventninger , varianser og kovarians . I dette tilfælde har kovariansmatrixen størrelse 2, og dens determinant er $X_{1},X_{2}$ ${\displaystyle \mu _{1},\mu _{2))$ ${\displaystyle \sigma _{1}^{2},\sigma _{2}^{2))$ $\sigma_{12}$

\mathrm {det} \Sigma =\sigma _{1}^{2}\sigma _{2}^{2}-\sigma _{12}^{2}=\sigma _{1}^ {2}\sigma _{2}^{2}(1-\rho ^{2}),

hvor er korrelationskoefficienten for stokastiske variable. $\rho ={\frac {\sigma _{12}}{\sigma _{1}\sigma _{2}}}$

Så tætheden af en todimensionel ikke-degenereret (korrelationskoefficient i absolut værdi er ikke lig med enhed) normalfordeling kan skrives som:

f(x_{1},x_{2})={\frac {1}{2\pi \sigma _{1}\sigma _{2}{\sqrt {1-\rho ^{2} }}}}\exp \left\{-{\frac {1}{2(1-\rho ^{2})}}\left[{\frac {(x_{1}-\mu _{1} )^{2)){\sigma _{1}^{2))}-\rho {\frac {2(x_{1}-\mu _{1})(x_{2}-\mu _{ 2})}{\sigma _{1}\sigma _{2}}}+{\frac {(x_{2}-\mu _{2})^{2}}{\sigma _{2}^ {2}}}\right]\right\}

. I tilfælde af, at (det vil sige, de er afhængige), er deres sum stadig normalfordelt, men der optræder et ekstra led i variansen : .

X\sim {\mathcal {N}}(\mu _{1},\sigma _{1}^{2}),Y\sim {\mathcal {N}}(\mu _{2} ,\sigma _{2}^{2}),cov(X,Y)=\sigma _{12}

X,Y

2\sigma _{12}

X+Y\sim {\mathcal {N))(\mu _{1}+\mu _{2},\sigma _{1}^{2}+\sigma _{2}^{2 }+2\sigma _{12})

Egenskaber for den multivariate normalfordeling

Hvis en vektor har en multivariat normalfordeling, så har dens komponenter en univariat normalfordeling. Det omvendte er tilfældet, når komponenterne er uafhængige [3] . $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$ $X_{i},i=1,\ldots,n,$
Hvis de tilfældige variable har en univariat normalfordeling og er tilsammen uafhængige , så har den tilfældige vektor en multivariat normalfordeling. En sådan vektors kovariansmatrix er diagonal. $X_{1},\ldots ,X_{n}$ $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$ $\Sigma$
Hvis den har en multivariat normalfordeling, og dens komponenter er parvis ukorrelerede , så er de uafhængige. Men hvis nogle tilfældige variable har en-dimensionelle normalfordelinger og ikke parvis korrelerer, så følger det ikke , at de er uafhængige og har en multivariat normalfordeling. $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$ $X_{i},\;i=1,\ldots ,n$

Eksempel. Lad , og med samme sandsynlighed og være uafhængig af den angivne normalværdi. Så hvis , så er korrelationen og lig med nul. Disse stokastiske variable er dog afhængige og har i kraft af afsnittets første udsagn ikke en multivariat normalfordeling.

X\sim {\mathcal {N}}(0,1)

\alpha =\pm 1

Y=\alpha X\sim {\mathcal {N}}(0,1)

x

Y

Den multivariate normalfordeling er stabil under lineære transformationer . Hvis , og er en vilkårlig matrix af dimension , så $\mathbf {X} \sim {\mathcal {N))(\mathbf {\mu } ,\Sigma )$ $\mathbf {A}$ $m\ gange n$

{\mathbf {A}}{\mathbf {X}}\sim {\mathbf {N}}\venstre({\mathbf {A}}{\mathbf {\mu }},{\mathbf {A}}\ Sigma {\mathbf {A}}^{{\top }}\right).

Ved en sådan transformation og forskydning kan enhver ikke-degenereret normalfordeling reduceres til en vektor af uafhængige standardnormalværdier .

Momenter af den multivariate normalfordeling

Lad være centreret (med nul matematisk forventning) tilfældige variable med en multivariat normalfordeling, så er momenterne for ulige lig nul, og for lige dem beregnes det ved formlen $x$ $\mu _{i_{1}i_{2}i_{3}...i_{k}}=E(X_{i_{1}}X_{i_{2}}X_{i_{3} }...X_{i_{k}})$ $k$ $k=2m$

\sum \sigma _{i_{t_{1}}i_{t_{2}}}\sigma _{i_{t_{3}}i_{t_{4}}}\sigma _{i_{t_ {4}}i_{t_{5}}}}...\sigma _{i_{t_{k-1}}i_{t_{k}}}

hvor summeringen udføres over alle mulige opdelinger af indekser i par. Antallet af faktorer i hver term er , antallet af termer er $m$ ${\frac {(2m)!}{2^{m}m!}}={\frac {(2m-1)!}{2^{m-1}(m-1)!}}$

For eksempel er der for momenter af fjerde orden i hvert led to faktorer, og det samlede antal led vil være lig med . Den tilsvarende generelle formel for momenterne i fjerde orden er: $4!/(2^{2}\cdot 2!)=(1\cdot 2\cdot 3\cdot 4)/(4\cdot 2\cdot 1)=3$

\mu _{ijkm}=E(X_{i}X_{j}X_{k}X_{m})=\sigma _{ij}\sigma _{km}+\sigma _{ik}\ sigma _{jm}+\sigma _{im}\sigma _{kj}

Især hvis $i=j=k=m$

{\displaystyle \mu _{iiii}=E(X_{i}^{4})=3{\sigma }_{ii}^{2}=3{\sigma }_{i}^{4))

På $i=j\not=k=m$

{\displaystyle \mu _{iijj}=E(X_{i}^{2}X_{j}^{2})={\sigma }_{ii}{\sigma }_{jj}+2{\ sigma }_{ij}={\sigma }_{i}^{2}{\sigma }_{j}^{2}+2{\sigma }_{ij))

På $i=j=k\not=m$

{\displaystyle \mu _{iij}=E(X_{i}^{3}X_{j})={\sigma }_{ii}{\sigma }_{ij}+{\sigma }_{ii }{\sigma }_{ij}+{\sigma }_{ij}{\sigma }_{ii}=3{\sigma }_{ij}{\sigma }_{ii}=3{\sigma } _{i}^{2}{\sigma }_{ij))

Betinget tildeling

Lad tilfældige vektorer og få en fælles normalfordeling med matematiske forventninger , kovariansmatricer og kovariansmatrix . Det betyder, at den kombinerede tilfældige vektor følger en multivariat normalfordeling med en forventningsvektor og en kovariansmatrix, som kan repræsenteres som følgende blokmatrix $x$ $Y$ $\mu _{X},\mu _{Y}$ $V_{X},V_{Y}$ $C_{{XY}}$ ${\boldsymbol Z}={\begin{bmatrix}{\boldsymbol X}\\{\boldsymbol Y}\end{bmatrix}}$ ${\boldsymbol {\mu }}_{Z}={\begin{bmatrix}{\boldsymbol {\mu }}_{X}\\{\boldsymbol {\mu}}_{Y}\end {bmatrix}}$

{\boldsymbol V}_{Z}={\begin{bmatrix}{\boldsymbol V}_{X}&{\boldsymbol C}_{{XY}}\\{\boldsymbol C}_{{YX}} &{\boldsymbol V}_{{Y}}\end{bmatrix}}

hvor . $C_{{YX}}=C_{{XY}}^{T}$

Så har den tilfældige vektor , givet værdien af den tilfældige vektor, en (multivariat) normal betinget fordeling med følgende betingede middelværdi og betingede kovariansmatrix $Y$ $x$

$E(Y|X=x)=\mu _{Y}+C_{{YX}}V_{X}^{{-1}}(x-\mu _{X}),\qquad V(Y| X=x)=V_{Y}-C_{{YX}}V_{X}^{{-1}}C_{{XY}}$ .

Den første lighed definerer den lineære regressionsfunktion (afhængigheden af vektorens betingede forventning af den givne værdi x af den tilfældige vektor ), og matricen er matrixen af regressionskoefficienter. $Y$ $x$ $C_{{XY}}V^{{-1}}$

Den betingede kovariansmatrix er den tilfældige fejl kovariansmatrix af lineære regressioner af komponenterne i vektor for vektor . I det tilfælde, hvor er en almindelig tilfældig variabel (en-komponent vektor), er den betingede kovariansmatrix den betingede varians (i det væsentlige variansen af den tilfældige fejl af regression på vektoren ) $Y$ $x$ $Y$ $Y$ $x$

Noter

↑ A. N. Shiryaev. Sandsynlighed. Bind 1. MTSNMO, 2007.
↑ Groot, 1974 , s. 58-63.
↑ A.A. Novoselov. Favoritter: Normaliteten af en ledfordeling . Moderne risikosystemer (28. marts 2014). Hentet 8. maj 2017. Arkiveret fra originalen 17. maj 2017. (ubestemt)

Litteratur

M. de Groot Optimal Statistical Decisions = Optimal Statistical Decisions. —M.: Mir, 1974. — 492 s.

Sandsynlighedsfordelinger
Diskret	Bernoulli Binomial Geometrisk hypergeometrisk Logaritmisk Negativ binomial Poisson Diskret uniform Multinomial
Absolut kontinuerlig	Beta Weibulla Gamma- hypereksponentiel Gompertz Kolmogorov Cauchy Laplace lognormal Normal (Gaussisk) Logistisk Nakagami Pareto Pearson halvcirkelformet kontinuerlig uniform Ris Rayleigh Studerende Tracey - Vidoma Fisher Chi-kvadrat Eksponentiel Varians-gamma Multivariat normal kopula