Fejlfeedback-korrektionsmetode

Fejlfeedback-korrektionsmetoden er en stokastisk perceptrontræningsmetode, der er nødvendig for at sikre konvergens med variable forbindelser på mere end ét lag. Metoden blev foreslået af Rosenblatt til perceptroner med variable SA-forbindelser og kan bruges til binære flerlagsperceptroner . Det er et alternativ til tilbagepropageringsmetoden , men i modsætning til den garanterer den konvergensprocessen (nå en løsning).

Algoritme

For hvert R-element indstilles fejlen , hvor er det påkrævede og det opnåede svar. $E_{r}=R^{*}-r^{*}$ $R^{*}$ $r^{*}$
For hvert A-element beregnes fejlen som følger: $a_{i}$
- I begyndelsen ; $E_{i}=0$
- Hvis elementet er aktivt, og linket ( eller generelt ) ender ved R-elementet med en fejl, der ikke er nul , som afviger i fortegn fra vægten af linket , så skal der med sandsynlighed tilføjes en korrektion lig med -1; $a_{i}$ $c_{{ir}}$ ${\textstyle c_{{ir}}=a_{i}\cdot w_{{ir}}}$ ${\textstyle c_{{ir}}=f(w_{{ir}},a_{i})}$ $E_{r}$ $w_{{ir}}$ $p_{1}$ $E_{i}$
- Hvis elementet er inaktivt, og linket slutter ved R-elementet med en fejl, der ikke er nul , ikke adskiller sig (sammenfalder) i fortegn fra vægten af linket , så skal der med sandsynlighed tilføjes en korrektion lig med +1; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $p_{2}$ $E_{i}$
- Hvis elementet er inaktivt, og linket slutter ved R-elementet med en fejl, der ikke er nul , som afviger i fortegn fra vægten af linket (eller ), så skal der med sandsynlighed tilføjes en korrektion lig med +1; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $w_{{ir}}=0$ $p_{3}$ $E_{i}$
- Under alle andre forhold ændres det ikke. $E_{i}$
Hvis , så tilføjer vi en rettelse med et tegn, der falder sammen med tegnet, til alle aktive links, der ender på A- eller R-element , dvs. , hvor er den absolutte værdi (normalt én). $E_{i}\not=0$ $\eta$ $E_{i}$ $\Delta w_{{ij}}=a_{i}^{*}tegn(E_{i})\varepsilon$ $\varepsilon$ $\eta$

I de fleste tilfælde kan den bedste præstation opnås, hvis sandsynligheden er valgt i henhold til følgende betingelse . ${\displaystyle p_{1}>p_{2}>p_{3))$

Litteratur

Rosenblatt, F. Principper for neurodynamisk: Perceptroner og teorien om hjernemekanismer. - M . : Mir, 1965. - 480 s.

Lakhmi C. Jain; NM Martin Fusion af neurale netværk, fuzzy systemer og genetiske algoritmer: industrielle applikationer. - CRC Press, CRC Press LLC, 1998