At lære med en lærer

Den aktuelle version af siden er endnu ikke blevet gennemgået af erfarne bidragydere og kan afvige væsentligt fra den version , der blev gennemgået den 12. april 2020; verifikation kræver 1 redigering .

Overvåget læring er en af metoderne til maskinlæring , hvor det testede system tvinges til at lære ved hjælp af eksempler på stimulus-respons. Fra et kybernetisk synspunkt er det en af typerne af kybernetiske eksperimenter . Der kan være en vis sammenhæng mellem input og referenceoutput (stimulus-respons), men dette er ukendt. Kun et begrænset sæt præcedenser er kendt - "stimulus-respons"-par, kaldet træningsprøven . Baseret på disse data er det nødvendigt at genoprette afhængigheden (at bygge en model af stimulus-respons-forhold, der er egnet til prognoser), det vil sige at bygge en algoritme, der er i stand til at give et ret præcist svar for ethvert objekt. For at måle nøjagtigheden af svar, såvel som for at lære ved eksempler , kan en kvalitetsfunktion indføres .

Princippet for opsætning af dette eksperiment

Dette eksperiment er et specialtilfælde af et kybernetisk eksperiment med feedback. Opsætning af dette eksperiment forudsætter eksistensen af et eksperimentelt system, en træningsmetode og en metode til at teste systemet eller måle egenskaber.

Det eksperimentelle system består igen af det testede (brugte) system, rummet af stimuli modtaget fra det ydre miljø og forstærkningskontrolsystemet (regulator af interne parametre). Som et forstærkningskontrolsystem kan der bruges en automatisk kontrolenhed (for eksempel en termostat) eller en menneskelig operatør (lærer), der er i stand til at reagere på reaktionerne fra det testede system og miljøstimuli ved at anvende specielle forstærkningsregler, der ændrer tilstanden af systemets hukommelse.

Der er to muligheder: (1) når responsen fra det testede system ikke ændrer miljøets tilstand, og (2) når systemets respons ændrer miljøets stimuli. Disse skemaer indikerer den grundlæggende lighed mellem et sådant generelt system med det biologiske nervesystem.

Typologi af overvågede læringsopgaver

Input datatyper

En vejledende beskrivelse er det mest almindelige tilfælde. Hvert objekt er beskrevet af et sæt af dets egenskaber, kaldet funktioner . Funktioner kan være numeriske eller ikke-numeriske.
Afstandsmatrix mellem objekter. Hvert objekt er beskrevet med afstande til alle andre objekter i træningssættet. Få metoder fungerer med denne type input, især metoden k nærmeste naboer , Parzen-vinduemetoden og potentielle funktionsmetoden .
En tidsserie eller et signal er en sekvens af målinger over tid. Hver dimension kan repræsenteres af et tal, en vektor og i det generelle tilfælde en vejledende beskrivelse af det objekt, der undersøges på et givet tidspunkt.
Billed- eller videosekvens .
Der er også mere komplekse tilfælde, hvor inputdata præsenteres i form af grafer , tekster , databaseforespørgselsresultater osv . Som regel reduceres de til det første eller andet tilfælde ved at forbehandle dataene og udtrække funktioner .

Svartyper

Når mængden af mulige svar er uendelig (svarene er reelle tal eller vektorer), taler man om regression og tilnærmelsesproblemer ;
Når mængden af mulige svar er begrænset, taler man om problemer med klassificering og mønstergenkendelse ;
Når svarene karakteriserer den fremtidige adfærd for en proces eller et fænomen, taler man om prognoseopgaver .

Degenererede typer af forstærkningskontrolsystemer ("lærere")

Et reaktionsstyret armeringssystem ( R er et kontrolleret system ) er kendetegnet ved, at informationskanalen fra det ydre miljø til armeringssystemet ikke fungerer. Dette system, på trods af tilstedeværelsen af et kontrolsystem, refererer til spontan læring , da systemet under test lærer autonomt, kun under indflydelse af dets udgangssignaler, uanset deres "korrekthed". Med denne indlæringsmetode kræves ingen ekstern information for at kontrollere ændringen i hukommelsens tilstand;
Armeringssystem med incitamentsstyring ( S - kontrolleret system ) - er kendetegnet ved, at informationskanalen fra det testede system til armeringssystemet ikke fungerer. På trods af den ikke-fungerende kanal fra output fra det testede system, refererer det til overvåget læring, da forstærkningssystemet (læreren) i dette tilfælde tvinger det testede system til at producere reaktioner i henhold til en bestemt regel, selvom tilstedeværelsen af sande reaktioner af det testede system er ikke taget i betragtning.

Denne sondring giver mulighed for et dybere blik på forskellene mellem forskellige måder at lære på, da grænsen mellem superviseret og uovervåget læring er mere subtil. Derudover gjorde en sådan forskel det muligt at vise visse begrænsninger for kunstige neurale netværk for S- og R-kontrollerede systemer (se Perceptron Convergence Theorem ).

Se også

Litteratur

Rosenblatt, F. Principper for neurodynamisk: Perceptroner og teorien om hjernemekanismer. - M . : Mir, 1965. - 480 s. Arkiveret21. maj 2015 påWayback Machine

Wasserman, F. Neurocomputerteknik: Teori og praksis = Neural Computing. teori og praksis. — M .: Mir, 1992. — 240 s. — ISBN 5-03-002115-9 . Arkiveret 30. juni 2009 på Wayback Machine

Machine learning og data mining
Opgaver	Klassificeringsproblem Læring uden lærer Lærerassisteret læring Regressions analyse AutoML Foreningens regler Feature Extraction Træning af træk Ranking træning Grammatisk afledning Online læring
At lære med en lærer	k-nærmeste nabo metode Naiv Bayes Classifier beslutningstræ Support vektor maskine Lineær regression Logistisk regression perceptron Ensembler af modeller Bagning boostning tilfældig skov Relevant vektormetode
klyngeanalyse	k-betyder metode Fuzzy klyngemetode Hierarkisk klyngedannelse EM algoritme BIRKE HELBREDE DBSCAN OPTIK Middel-forskydning
Dimensionalitetsreduktion	Faktoranalyse Hovedkomponentmetode CCA ICA LDA Ikke-negativ matrixudvidelse t-SNE
Strukturel prognose	Graf probabilistisk model Bayesiansk netværk Skjult Markov-model CRF
Anomali detektion	k-nærmeste nabo metode Lokalt emissionsniveau
Grafer sandsynlighedsmodeller	Bayesiansk netværk Markov netværk Skjult Markov-model
Neurale netværk	Begrænset Boltzmann-maskine selvorganiserende kort Aktiveringsfunktion Sigmoid softmax Radial basisfunktion Rygformeringsmetode Dyb læring Flerlagsperceptron Tilbagevendende neurale netværk lang korttidshukommelse Kontrolleret tilbagevendende blokering Konvolutionelt neuralt netværk U-net Autoencoder
Forstærkende læring	Markov proces Bellmans ligning Grådig algoritme Q-læring SARSA Temporal forskel (TD)
Teori	Vapnik-Chervonenkis teori Bias-Dispersion Dilemma Beregningsmæssig læringsteori Empirisk risikominimering Occams læring PAC læring Statistisk læringsteori
Tidsskrifter og konferencer	NeurIPS ICML ML JMLR ArXiv:cs.LG