Hessiske funktioner

Den aktuelle version af siden er endnu ikke blevet gennemgået af erfarne bidragydere og kan afvige væsentligt fra den version , der blev gennemgået den 24. december 2021; checks kræver 2 redigeringer .

En funktions hessian er en symmetrisk kvadratisk form [1] , der beskriver opførselen af en funktion i anden orden.

For en funktion, der er dobbelt differentierbar på et punkt $f$ $x\in \mathbb{R} ^{n}$

H(x)=\sum _{{i=1}}^{n}\sum _{{j=1}}^{n}a_{{ij}}x_{i}x_{j}

eller

H(z)=\sum _{{i=1}}^{n}\sum _{{j=1}}^{n}a_{{ij}}z_{i}\overline {z}_{ j}

hvor (eller ) og funktionen er defineret på -dimensionelt reelt rum (eller komplekst rum ) med koordinater (eller ). I begge tilfælde er hessian en kvadratisk form givet på tangentrummet , som ikke ændres under lineære transformationer af variablerne. Hessian kaldes også ofte for determinanten for en matrix, se nedenfor. $a_{{ij}}=\partial ^{2}f/\partial x_{i}\partial x_{j}$ $a_{{ij}}=\partial ^{2}f/\partial z_{i}\partial \overline {z}_{j}$ $f$ $n$ $\mathbb {R} ^{n}$ $\mathbb{C}^n$ $x_{1},\ldots ,x_{n}$ $z_{1},\ldots ,z_{n}$ $(a_{ij}),$

Hessisk matrix

Matrixen af denne kvadratiske form er dannet af de anden partielle afledninger af funktionen. Hvis alle derivater eksisterer, så

H(f)={\begin{bmatrix}{\frac {\partial ^{2}f}{\partial x_{1}^{2))}&{\frac {\partial ^{2}f}{ \partial x_{1}\,\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{1}\,\partial x_{n}}}\ \\\{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{1))}&{\frac {\partial ^{2}f}{\partial x_{ 2}^{2))}&\cdots &{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{n))}\\\\\vdots &\vdots &\ddots &\vdots \\\\{\frac {\partial ^{2}f}{\partial x_{n}\,\partial x_{1))}&{\frac {\partial ^{2} f}{\partial x_{n}\,\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{n}^{2}}}\end {bmatrix}}

Determinanten af denne matrix kaldes den hessiske determinant , eller blot den hessiske .

Hessiske matricer bruges i optimeringsproblemer ved Newtons metode . Den komplette beregning af den hessiske matrix kan være vanskelig, så der er udviklet kvasi-newtonske algoritmer baseret på omtrentlige udtryk for den hessiske matrix. Den mest berømte af dem er Broyden-Fletcher-Goldfarb-Shanno-algoritmen .

Symmetri af den hessiske matrix

De blandede afledte af funktionen f er de elementer i den hessiske matrix, der ikke er på hoveddiagonalen . Hvis de er kontinuerlige, er rækkefølgen af differentiering ikke vigtig:

{\frac {\partial }{\partial x_{i))}\left({\frac {\partial f}{\partial x_{j))}\right)={\frac {\partial }{\partial x_{j))}\venstre({\frac {\partial f}{\partial x_{i))}\right)

Dette kan også skrives som

f_{{x_{i}x_{j}}}=f_{{x_{j}x_{i}}},\quad \forall i,j\in \{1,\ldots ,n\}.

I dette tilfælde er den hessiske matrix symmetrisk .

Kritiske punkter for en funktion

Hvis gradienten (dens vektorafledte ) er nul på et tidspunkt , kaldes dette punkt kritisk . En tilstrækkelig betingelse for eksistensen af et ekstremum på dette tidspunkt er fortegnsbestemtheden af det hessiske f (forstået i dette tilfælde som en kvadratisk form), nemlig: $f$ $x_{0}$

hvis hessian er positiv bestemt, så er det lokale minimumspunkt for funktionen , $x_{0}$ $f(x)$
hvis hessian er negativ bestemt, så er det lokale maksimumpunkt for funktionen , $x_{0}$ $f(x)$
hvis hessian ikke er fortegnsbestemt (tager både positive og negative værdier) og er ikke-degenereret , så er sadelpunktet for funktionen . $(\det H(f)\neq 0)$ $x_{0}$ $f(x)$

Variationer og generaliseringer

Vektor-funktioner

Hvis er en vektorfunktion , dvs. $f$

f=(f_{1},f_{2},\dots ,f_{n}),

så danner dens anden partielle afledte ikke en matrix, men en tensor af rang 3, som kan betragtes som en matrix af hessiske matricer: $n$

H(f)=\left(H(f_{1}),\ldots ,H(f_{n})\right).

Ved degenererer denne tensor til den sædvanlige hessiske matrix. $n=1$

Banded Hessian

Når man løser problemet med at finde et betinget ekstremum af en funktion med restriktioner $f:\mathbb {R} ^{n}\rightarrow \mathbb {R}$

\left\{{\begin{array}{c}g_{1}(x)=0,\\\vdots \\g_{m}(x)=0,\end{array}}\right .

hvor , , for at kontrollere tilstrækkelige betingelser for et ekstremum, kan man bruge den såkaldte afgrænsede Hessian of the Lagrange-funktion , som vil have formen [2] $x \in \mathbb{R}^n$ $m<n$ $L(x,\lambda )$

\left({\begin{array}{cc}{\dfrac {\partial ^{2}L}{\partial x^{2))}&{\dfrac {\partial ^{2}L} {\partial x\partial \lambda }}\\\left({\dfrac {\partial ^{2}L}{\partial x\partial \lambda }}\right)^{\mathrm {T} }&{ \dfrac {\partial ^{2}L}{\partial \lambda ^{2))}\end{array}}\right)=\left({\begin{array}{cccccc}{\dfrac {\partial ^{2}L}{\partial x_{1}^{2))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{1}\partial x_{n))} &{\dfrac {\partial g_{1}}{\partial x_{1}}}&\ldots &{\dfrac {\partial g_{m}}{\partial x_{1}}}\\\vdots & \ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial ^{2}L}{\partial x_{n}\partial x_{1))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{n}^{2}}}&{\dfrac {\partial g_{1}}{\partial x_{n}}}&\ldots &{\dfrac {\partial g_{m)){\partial x_{n))}\\{\dfrac {\partial g_{1)){\partial x_{1))}&\ldots &{\dfrac {\partial g_ {1}}{\partial x_{n}}}&0&\ldots &0\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial g_{m}}{ \partial x_{1))}&\ldots &{\dfrac {\partial g_{m)){  \partial x_{n}}}&0&\ldots &0\end{array}}\right).

Verifikationen af tilstrækkelige ekstremumbetingelser består i at beregne tegnene på determinanterne for et bestemt sæt submatricer af den afgrænsede Hessian. Nemlig hvis der findes sådan at og ${\displaystyle x^{*}\in \mathbb {R} ^{n))$ ${\displaystyle \lambda ^{*}\in \mathbb {R} ^{m))$ $\nabla L(x^{*},\lambda ^{*})=0$

(-1)^{m}{\mbox{det}}\left({\begin{array}{cccccc}{\dfrac {\partial ^{2}L}{\partial x_{1}^ {2}}}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{1}\partial x_{p}}}&{\dfrac {\partial g_{1}}{\ partial x_{1))&\ldots &{\dfrac {\partial g_{m)){\partial x_{1))}\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \ \{\dfrac {\partial ^{2}L}{\partial x_{p}\partial x_{1))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{ p }^{2}}}&{\dfrac {\partial g_{1}}{\partial x_{p}}}&\ldots &{\dfrac {\partial g_{m}}{\partial x_{p) )}\\{\dfrac {\partial g_{1}}{\partial x_{1}}}&\ldots &{\dfrac {\partial g_{1}}{\partial x_{p}}}&0& \ ldots &0\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial g_{m)){\partial x_{1))}&\ldots &{\ dfrac {\partial g_{m}}{\partial x_{p}}}&0&\ldots &0\end{array}}\right)>0

for så har funktionen et strengt betinget minimum på punktet . Hvis $p=m+1,\ldots ,n$ $x^{*}$ $f$

(-1)^{p}{\mbox{det}}\left({\begin{array}{cccccc}{\dfrac {\partial ^{2}L}{\partial x_{1}^ {2}}}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{1}\partial x_{p}}}&{\dfrac {\partial g_{1}}{\ partial x_{1))&\ldots &{\dfrac {\partial g_{m)){\partial x_{1))}\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \ \{\dfrac {\partial ^{2}L}{\partial x_{p}\partial x_{1))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{ p }^{2}}}&{\dfrac {\partial g_{1}}{\partial x_{p}}}&\ldots &{\dfrac {\partial g_{m}}{\partial x_{p) )}\\{\dfrac {\partial g_{1}}{\partial x_{1}}}&\ldots &{\dfrac {\partial g_{1}}{\partial x_{p}}}&0& \ ldots &0\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial g_{m)){\partial x_{1))}&\ldots &{\ dfrac {\partial g_{m}}{\partial x_{p}}}&0&\ldots &0\end{array}}\right)>0

for , så har funktionen på det punkt et strengt betinget maksimum [3] . $p=m+1,\ldots ,n$ $x^{*}$ $f$

Historie

Begrebet blev introduceret af Ludwig Otto Hesse ( 1844 ), som brugte et andet navn. Udtrykket "hessisk" blev opfundet af James Joseph Sylvester .

Se også

Jacobian
Kritisk punkt (matematik)
Morse Lemma
Sylvester -kriteriet er et kriterium for den positive eller negative bestemthed af en kvadratisk matrix

Noter

↑ Hessisk . Hentet 2. april 2016. Arkiveret fra originalen 15. april 2016. (ubestemt)
↑ Hallam, Arne Econ 500: Quantitative Methods in Economic Analysis I. Iowa State (7. oktober 2004). Hentet 14. april 2021. Arkiveret fra originalen 19. april 2021. (ubestemt)
↑ Neudecker, Heinz. Matrix-differentialregning med anvendelser i statistik og økonometri / Heinz Neudecker, Jan R. Magnus. - New York: John Wiley & Sons , 1988. - S. 136. - ISBN 978-0-471-91516-4 .

Links

Kamynin L.I. Matematisk analyse. T. 1, 2. - 2001.
Kudryavtsev L.D. "Et kort kursus i matematisk analyse. T.2. Differential- og integralregning af funktioner af flere variable. Harmonisk analyse”, FIZMATLIT, 2002, 424 s. — ISBN 5-9221-0185-4 . Eller en hvilken som helst anden udgave.
Golubitsky M., Guillemin V. Staldkortlægninger og deres singulariteter, - M.: Mir, 1977.

Differentialregning

Hoved

private udsigter

Differentialoperatorer
( i forskellige koordinater )

Første ordre	Nabla operatør Gradient Divergens Rotor Helmholtzian
anden orden	Elliptisk operatør Laplace operatør Laplace vektor operatør D'Alembert operatør Laplace-Beltrami operatør
højere ordrer	Hypoelliptisk operatør

relaterede emner