Stokastisk tilnærmelse

Stokastisk approksimation er en tilbagevendende metode til at konstruere en konsistent sekvens af estimater for løsninger på regressionsligninger og ekstrema af regressionsfunktioner i ikke-parametriske estimeringsproblemer. I biologi, kemi, medicin bruges det til at analysere resultaterne af eksperimenter. I teorien om automatisk kontrol bruges det som et middel til at løse problemer med genkendelse, identifikation, læring og tilpasning [1] . Grundlæggerne af den stokastiske tilnærmelsesmetode er Kiefer, Wolfowitz [2] , Robins , Monroe [3] .

At finde en løsning på regressionsligningen

Lad hver værdi af parameteren svare til en eksperimentelt målt stokastisk variabel med fordelingsfunktionen og den matematiske forventning til værdien ved en fast parameter . Det er nødvendigt at finde en løsning på regressionsligningen . Det antages, at løsningen af regressionsligningen er unik, og funktionerne og er ukendte. $x$ $y$ $F(y|x)$ $y$ $x$ $m(y|x)=m(x)$ $m(x)=\alpha$ $F(y|x)$ $m(x)$

Proceduren med stokastisk tilnærmelse til at opnå estimater af roden af regressionsligningen består i at bruge træningsprøven opnået på basis af erfaringer med målte stokastiske variable . ${\hat {x}}$ $m({\hat {x)))=\alpha$ $y_{1},...,y_{n}$

Estimatet af den ønskede rod er baseret på det tidligere estimat ved hjælp af træningsværdien af den målte stokastiske variabel ved hjælp af relationen , hvor , er et vilkårligt tal [3] . ${\displaystyle {\hat {x_{n+1))))$ ${\displaystyle {\hat {x_{n))))$ $y_{n}$ ${\hat {x_{n+1}}}={\hat {x_{n}}}+a_{n}(\alpha -y_{n})$ $n\geqslant 1$ ${\displaystyle {\hat {x_{1))))$

Hvis sekvensen af koefficienter opfylder betingelserne , , , så for , tenderer estimatet i sandsynlighed til roden af ligningen . $a_{n}$ $a_{n}>0$ $\sum _{n=1}^{\infty }a_{n}=\infty$ $\sum _{n=1}^{\infty }a_{n}^{2}<\infty$ $n\til\infty$ ${\displaystyle {\hat {x_{n+1))))$ $m({\hat {x)))=\alpha$

Med nogle yderligere krav til regressionsfunktionen kan estimaterne konvergere i middelkvadrat til løsningen af regressionsligningen [4] [5] . $m(x)$ ${\displaystyle {\hat {x_{n+1))))$

Eksempler

Hårdheden af en legering af kobber og jern afhænger af den tid , hvor legeringen udsættes for høj temperatur. I dette tilfælde er den målte stokastiske variabel legeringens hårdhed , og opgaven er at bestemme det tidspunkt , hvor legeringen har en given hårdhed [6] . $y$ $x$ $y$ ${\hat {x}}$ $y=\alpha$

Find ekstremum af regressionsfunktionen

Estimatet af ekstremværdien af regressionsfunktionen er fundet på basis af det tidligere estimat og træningsværdier af den målte stokastiske variabel og ved hjælp af relationen , hvor , er et vilkårligt tal, er en sekvens af positive tal, og sekvenser og er uafhængige og svarer til værdierne af parameteren og [2] . ${\displaystyle {\hat {x_{n+1))))$ ${\displaystyle {\hat {x_{n))))$ $y_{2n}$ $y_{2n-1}$ ${\hat {x_{n+1}}}={\hat {x_{n}}}+{\frac {a_{n}}{c_{n}}}(y_{2n}-y_ {2n-1})$ $n\geqslant 1$ ${\displaystyle {\hat {x_{1))))$ $a_{n}$ $y_{2n}$ $y_{2n-1}$ ${\hat {x_{n}}}+c_{n}$ ${\hat {x_{n}}}-c_{n}$

Hvis sekvenserne af koefficienter og opfylder betingelserne , , For , , , , Så for , tenderer estimatet i sandsynlighed til den ekstreme værdi af regressionsfunktionen. $a_{n}$ $c_{{n}}$ $a_{n}>0$ $c_{n}>0$ $c_{n}\to 0$ $n\til\infty$ $\sum _{n=1}^{\infty }a_{n}=\infty$ $\sum _{n=1}^{\infty }a_{n}c_{n}<\infty$ $\sum _{n=1}^{\infty }({\frac {a_{n}}{c_{n}}})^{2}<\infty$ $n\til\infty$ ${\displaystyle {\hat {x_{n+1))))$

Med nogle yderligere krav til regressionsfunktionen kan estimater konvergere i middelkvadrat til regressionsfunktionens ekstremum [5] . $m(x)$ ${\displaystyle {\hat {x_{n+1))))$

Eksempler

Udbyttet af et jordstykke afhænger af mængden af gødning . I dette tilfælde er den målte stokastiske variabel udbyttet , og opgaven er at bestemme den mængde gødning , hvor jordlodden har det maksimale udbytte [6] . $y$ $x$ $y$ ${\hat {x}}$

Noter

↑ Tsypkin Ya.Z. "Tilpasning, læring og selvlæring i automatiske systemer", // Automation og Telemekanik . - 1966. - Nr. 1. - S. 23–61. — ISSN 0005-2310. — URL: http://mi.mathnet.ru/at10991
↑ 1 2 Kiefer J., Wolfowitz J. Stokastisk estimering af maksimum af en regressionsfunktion // Ann. Matematik. Statistikker. - 1952. - v. 23. - Nr. 3.
↑ 1 2 Robbins N., Monro S. En stokastisk tilnærmelsesmetode // Annals of Math. stat. - 1951. - v. 22. - Nr. 1. - S. 400-407.
↑ Vazan, 1972 , s. atten.
↑ 1 2 Loginov N. V. “Metoder til stokastisk tilnærmelse” // Automation and Remote Control . - 1966. - Nr. 4. - S. 185-204. — ISSN 0005-2310. — URL: http://mi.mathnet.ru/at11080
↑ 1 2 Vazan, 1972 , s. ti.

Litteratur

Vazan M. Stokastisk Approximation. — M .: Mir, 1972. — 295 s.
Tsypkin Ya.Z. Grundlæggende i teorien om læringssystemer. - M. : Nauka, 1970. - 251 s.
Tsypkin Ya.Z. Tilpasning og læring i automatiske systemer. — M .: Nauka, 1968. — 399 s.