Rayleigh forhold

I matematik , for en given kompleks hermitisk matrix og en vektor , der ikke er nul , er Rayleigh-relationen [1] defineret som følger [2] [3] : $M$ $x$ $R(M,x)$

R(M,x)={x^{{*}}Mx \over x^{{*}}x}.

For reelle matricer reduceres betingelsen for, at en matrix er hermitisk til dens symmetri , og den hermitiske konjugation af vektorer bliver til en almindelig transposition . Bemærk, at for enhver reel konstant . Husk på, at en hermitisk (såvel som en symmetrisk reel) matrix har reelle egenværdier . Det kan vises, at for en matrix når Rayleigh-forholdet sin minimumsværdi (den mindste egenværdi af matricen ), når den er lig med (den tilsvarende egenvektor). På lignende måde kan det vises, at og . Rayleigh-relationen bruges i Courant-Fishers minimax-sætning til at opnå alle værdier af egenværdierne [4] . Det bruges også i algoritmer til at finde matrixegenværdier for at opnå en egenværditilnærmelse fra en egenvektortilnærmelse. Relationen er nemlig grundlaget for iterationer med Rayleigh-relationen [5] [6] . $x^{{*}}$ $x'$ $R(M,cx)=R(M,x)$ $c\neq 0$ $\lambda _{\min }$ $M$ $x$ $v_{\min }$ $R(M,x)\leq \lambda _{\max }$ $R(M,v_{\max })=\lambda _{\max }$

Sættet af værdier af Rayleigh-relationen kaldes det numeriske billede af matricen [7] [8] .

Et særligt tilfælde af kovariansmatricer

Kovariansmatricen M for en multivariat statistisk prøve A (matrix af observationer) kan repræsenteres som et produkt A' A [9] [10] . Da M er en symmetrisk reel matrix, har M ikke-negative egenværdier og ortogonale (eller kan reduceres til ortogonale) egenvektorer.

For det første at egenværdierne ikke er negative: $\lambda _{i}$

Mv_{i}=A'Av_{i}=\lambda _{i}v_{i}

\Rightarrow v_{i}'A'Av_{i}=v_{i}'\lambda _{i}v_{i}

\Rightarrow \left\|Av_{i}\right\|^{2}=\lambda _{i}\left\|v_{i}\right\|^{2}

\Rightarrow \lambda _{i}={\frac {\left\|Av_{i}\right\|^{2}}{\left\|v_{i}\right\|^{2}}}\ geq 0.

Og for det andet, at egenvektorerne er ortogonale i forhold til hinanden: $v_{i}$

Mv_{i}=\lambda _{i}v_{i}

\Rightarrow v_{j}'Mv_{i}=\lambda _{i}v_{j}'v_{i}

\Rightarrow (Mv_{j})'v_{i}=\lambda _{i}v_{j}'v_{i}

\Rightarrow \lambda _{j}v_{j}'v_{i}=\lambda _{i}v_{j}'v_{i}

\Rightarrow (\lambda _{j}-\lambda _{i})v_{j}'v_{i}=0

\Rightarrow v_{j}'v_{i}=0

(hvis egenværdierne er forskellige - i tilfælde af de samme værdier kan du finde et ortogonalt grundlag).

Lad os nu vise, at Rayleigh-forholdet antager en maksimal værdi på vektoren svarende til den største egenværdi. Lad os udvide en vilkårlig vektor i form af basis for egenvektorer v i : $x$

x=\sum _{{i=1}}^{n}\alpha _{i}v_{i}

, hvor er projektionen af x på

\alpha _{i}={\frac {x'v_{i}}{v_{i}'v_{i}}}={\frac {\langle x,v_{i}\rangle }{\left\ |v_{i}\right\|^{2}}}

v_{i}

Altså ligestilling

R(M,x)={\frac {x'A'Ax}{x'x}}

kan omskrives i følgende form:

R(M,x)={\frac {(\sum _{{j=1}}^{n}\alpha _{j}v_{j})'A'A(\sum _{{i=1 }}^{n}\alpha _{i}v_{i})}{(\sum _{{j=1}}^{n}\alpha _{j}v_{j})'(\sum _ {{i=1}}^{n}\alpha _{i}v_{i})}}

Da egenvektorerne er ortogonale, bliver den sidste lighed

R(M,x)={\frac {\sum _{{i=1}}^{n}\alpha _{i}^{2}\lambda _{i}}{\sum _{{i= 1}}^{n}\alpha _{i}^{2}}}=\sum _{{i=1}}^{n}\lambda _{i}{\frac {(x'v_{i })^{2}}{(x'x)(v_{i}'v_{i})}}

Den sidste lighed viser, at Rayleigh-forholdet er summen af de kvadrerede cosinus af vinklerne mellem vektoren og hver af egenvektorerne , ganget med den tilsvarende egenværdi. $x$ $v_{i}$

Hvis en vektor maksimerer , så maksimerer alle vektorer opnået fra multiplikation med en skalar ( for ) også R. Således kan problemet reduceres til at finde det maksimale under betingelsen . $x$ $R(M,x)$ $x$ $kx$ $k\neq 0$ $\sum _{{i=1}}^{n}\alpha _{i}^{2}\lambda _{i}$ $\sum _{{i=1}}^{n}\alpha _{i}^{2}=1$

Da alle egenværdier er ikke-negative, er problemet reduceret til at finde maksimum af en konveks funktion , og det kan vises, at den nås ved og (egenværdierne er sorteret i faldende rækkefølge). $\alpha _{1}=1$ $\forall i>1,\alpha _{i}=0$

Således når Rayleigh-forholdet sit maksimum ved egenvektoren svarende til den maksimale egenværdi.

Samme resultat ved brug af Lagrange-multiplikatorer

Det samme resultat kan opnås ved at bruge Lagrange-multiplikatorer . Problemet er at finde de kritiske punkter i funktionen

R(M,x)=x^{T}Mx

ved en konstant værdi Det vil sige, at du skal finde funktionens kritiske punkter $\|x\|^{2}=x^{T}x=1.$

{\mathcal {L}}(x)=x^{T}Mx-\lambda (x^{T}x-1),

hvor er Lagrange-multiplikatoren. For stationære punkter af funktionen , ligheden $\lambda$ ${\mathcal {L}}(x)$

{\frac {d{\mathcal {L}}(x)}{dx}}=0

\derfor 2x^{T}M^{T}-2\lambda x^{T}=0

\derfor Mx=\lambda x

og $R(M,x)={\frac {x^{T}Mx}{x^{T}x}}=\lambda {\frac {x^{T}x}{x^{T}x}} =\lambda .$

Således er egenvektorerne af matricen M kritiske punkter i Rayleigh-relationen, og deres egenværdier er de tilsvarende stationære værdier. $x_{1}\ldots x_{n}$ $\lambda _{1}\ldots \lambda _{n}$

Denne egenskab er grundlaget for hovedkomponentanalyse og kanonisk korrelation .

Anvendelse i Sturm-Liouville teori

Sturm-Liouville teorien består i studiet af den lineære operator

L(y)={\frac {1}{w(x)}}\venstre(-{\frac {d}{dx}}\venstre[p(x){\frac {dy}{dx}}\ højre]+q(x)y\højre)

med prik produkt

\langle {y_{1},y_{2}}\rangle =\int _{a}^{b}w(x)y_{1}(x)y_{2}(x)\,dx

hvor funktionerne opfylder nogle specifikke randbetingelser i punkterne a og b . Rayleigh-relationen her tager formen

{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}{y(x)\left(- {\frac {d}{dx}}\venstre[p(x){\frac {dy}{dx}}\right]+q(x)y(x)\right)}dx}{\int _{ a}^{b}{w(x)y(x)^{2}}dx}}.

Nogle gange er dette forhold repræsenteret i en ækvivalent form ved hjælp af integration af dele [11] :

{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}{y(x)\left(- {\frac {d}{dx}}\left[p(x)y'(x)\right]\right)}dx+\int _{a}^{b}{q(x)y(x)^ {2}}\,dx}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}

={\frac {-y(x)\venstre[p(x)y'(x)\right]|_{a}^{b}+\int _{a}^{b}{y'(x )\venstre[p(x)y'(x)\right]}\,dx+\int _{a}^{b}{q(x)y(x)^{2}}\,dx}{\ int _{a}^{b}{w(x)y(x)^{2}}\,dx}}

={\frac {-p(x)y(x)y'(x)|_{a}^{b}+\int _{a}^{b}\venstre[p(x)y'(x )^{2}+q(x)y(x)^{2}\right]\,dx}{\int _{a}^{b}{w(x)y(x)^{2)) \,dx}}.

Generalisering

For ethvert par af reelle symmetriske positive bestemte matricer og en vektor , der ikke er nul, er den generaliserede Rayleigh-relation defineret som $(A,B)$ $x$

R(A,B;x):={\frac {x^{T}Ax}{x^{T}Bx}}.

Den generaliserede Rayleigh-relation kan reduceres til Rayleigh-relationen ved at transformere , hvor er nedbrydningen af Cholesky -matrixen . $R(D,Cx)$ $D={C^{*}}^{{-1}}AC^{{-1}}$ $C$ $B$

Se også

Numerisk billede af en matrix

Noter

↑ også kendt som Rayleigh-Ritz-forholdet , opkaldt efter Walter Ritz og Lord Rayleigh .
↑ Horn, R. A. og C. A. Johnson. 1985. Matrixanalyse . Cambridge University Press. pp. 176-180.
↑ Parlet BN Det symmetriske egenværdiproblem , SIAM, Classics in Applied Mathematics, 1998
↑ Beckenbach, 1965 , §26 Fischers minimakssætning.
↑ Parlett, 1983 , §4.6 Iterationer med Rayleigh-relationen, s. 87).
↑ Verbitsky, 2000 , §4.3 Omvendte iterationer, s. 115.
↑ Gevorgyan .
↑ Prasolov, 2008 , 2.2 Kernen og billedet af operatøren. Faktorrum., s. 114.
↑ Korshunov, 2008 , Introduktion.
↑ ACTA, 2005 .
↑ Haberman, 1987 .

Litteratur

B. Parlett. Symmetrisk egenværdi problem. Numeriske metoder. - 1983.
E. Beckenbbach, R. Bellman. Uligheder. - Moskva "Mir", 1965.
Richard Haberman. Elementære anvendte partielle differentialligninger. - Prentice Hall, Englewood, New Jersey, 1987.
V. M. Verzhbitsky. Numeriske metoder (lineær algebra og ikke-lineære ligninger). - Moskva "Higher School", 2000.
V.V. Prasolov. Problemer og sætninger af lineær algebra. - Moskva, 2008.
Gevorgyan LZ Nogle geometriske karakteristika for det numeriske billede af en operator . – Armeniens statsingeniøruniversitet. Arkiveret fra originalen den 31. august 2006.
Zdzisław Burda, Jerzy Jurkiewicz, Bartłomiej Wacław. Egenværditæthed af empirisk kovariansmatrix for korrelerede prøver // Acta physica polonica B. - 2005. - Vol. 36 , no. 9 . - S. 2642 .
Korshunov Yu. M. At opnå en multidimensionel statistisk prøve med givne korrelationsegenskaber Vestnik RGRTU. - 2008. - Udgave. 23 .
Shi Yu, Léon-Charles Tranchevent, Bart Moor, Yves Moreau. Ch. 2 // Kernebaseret datafusion til maskinlæring: metoder og anvendelser i bioinformatik og tekstminedrift . - Springer, 2011.