Neurocomputer

En neurocomputer er en informationsbehandlingsenhed  baseret på principperne for drift af naturlige neurale systemer [1] . Disse principper blev formaliseret, hvilket gjorde det muligt at tale om teorien om kunstige neurale netværk . Problemet med neurocomputere ligger i konstruktionen af ​​rigtige fysiske enheder, som ikke kun gør det muligt at simulere kunstige neurale netværk på en konventionel computer , men at ændre principperne for computerdrift på en sådan måde, at det vil være muligt at sige, at de fungerer i overensstemmelse med teorien om kunstige neurale netværk .

Historie

Begreberne neurokybernetik , neuroinformatik, neurocomputere kom i videnskabelig brug for nylig - i midten af ​​80'erne af det XX århundrede. Elektroniske og biologiske hjerner er dog konstant blevet sammenlignet gennem computerens historie. N. Wieners berømte bog " Cybernetics " ( 1948 ) [2] har undertitlen "Kontrol og kommunikation i dyret og maskinen".

De første neurocomputere var Rosenblatts perceptroner : Mark-1 ( 1958 ) og Tobermory ( 1961-1967 ) [ 3] samt Adalin , udviklet af Widrowog Hoff ( 1960 ) baseret på deltareglen ( Widrows formler ) [4] . Adaline ( Widrow learning adaptive adder ) er nu en standardfunktion i mange signalbehandlings- og kommunikationssystemer. [5] I samme serie af de første neurocomputere er programmet "Kora", udviklet i 1961 under ledelse af M. M. Bongard [6] .

Rosenblatts monografi ( 1958 ) [7] spillede en vigtig rolle i udviklingen af ​​neurocomputing .

Ideen om neurobionics (oprettelsen af ​​tekniske midler baseret på neuro-principper) begyndte at blive aktivt implementeret i begyndelsen af ​​1980'erne. Drivkraften var følgende modsætning: dimensionerne af de elementære dele af computere blev lig med dimensionerne af de elementære "informationskonvertere" i nervesystemet , hastigheden af ​​individuelle elektroniske elementer blev opnået millioner af gange større end biologiske systemer, og effektiviteten af ​​problemløsning, især relaterede opgaver med orientering og beslutningstagning i naturlige omgivelser, i levende systemer er stadig uopnåelig højere.

En anden drivkraft til udviklingen af ​​neurocomputere blev givet af den teoretiske udvikling i 1980'erne på teorien om neurale netværk ( Hopfield -netværk , Kohonen-netværk , tilbageudbredelse ).

Hovedideen er forbindelsesisme

I modsætning til digitale systemer, som er kombinationer af behandlings- og lagerenheder , indeholder neuroprocessorer hukommelse fordelt i forbindelser mellem meget simple processorer, som ofte kan beskrives som formelle neuroner eller blokke af samme type formelle neuroner. Således falder hovedbelastningen på udførelsen af ​​specifikke funktioner af processorer på systemets arkitektur, hvis detaljer igen bestemmes af interneuronale forbindelser. Den tilgang, der er baseret på repræsentationen af ​​både datahukommelse og algoritmer ved hjælp af et system af links (og deres vægte) kaldes forbindelseisme.

Tre hovedfordele ved neurocomputere:

  1. Alle neuroinformatiske algoritmer er meget parallelle , og dette er allerede en garanti for høj ydeevne.
  2. Neurosystemer kan nemt gøres meget modstandsdygtige over for interferens og forstyrrelser.
  3. Stabile og pålidelige neurosystemer kan også skabes ud fra upålidelige elementer med en betydelig spredning af parametre.

Udviklere af neurocomputere søger at kombinere stabiliteten, hastigheden og paralleliteten af ​​AVM'er - analoge computere - med alsidigheden af ​​moderne computere. [otte]

Problemet med effektiv parallelisme

A. Gorban [9] foreslog problemet med effektiv parallelisme for rollen som det centrale problem løst af al neuroinformatik og neurocomputing . Det har længe været kendt, at computerens ydeevne stiger meget langsommere end antallet af processorer. M. Minsky formulerede en hypotese : ydeevnen af ​​et parallelt system vokser (ca.) i forhold til logaritmen af ​​antallet af processorer - dette er meget langsommere end en lineær funktion ( Minskys hypotese ).

For at overvinde denne begrænsning anvendes følgende tilgang: til forskellige problemklasser konstrueres maksimalt parallelle løsningsalgoritmer, der bruger en abstrakt arkitektur (paradigme) af finkornet parallelisme, og for specifikke parallelle computere, værktøjer til implementering af parallelle processer af en givet abstrakt arkitektur skabes. Som følge heraf opstår et effektivt apparat til produktion af parallelle programmer.

Neuroinformatik giver universelle finkornede parallelle arkitekturer til løsning af forskellige klasser af problemer. Til specifikke opgaver bygges en abstrakt neural netværksimplementering af løsningsalgoritmen, som derefter implementeres på specifikke parallelle computerenheder. Således tillader neurale netværk effektiv brug af parallelisme.

Moderne neurocomputere

Langsigtet indsats fra mange forskergrupper har ført til, at der nu er blevet akkumuleret et stort antal forskellige "læringsregler" og arkitekturer for neurale netværk , deres hardwareimplementeringer og teknikker til at bruge neurale netværk til at løse anvendte problemer.

Disse intellektuelle opfindelser [10] eksisterer som en " zoo " af neurale netværk. Hvert zoo-netværk har sin egen arkitektur, læringsregel og løser et specifikt sæt problemer. I det sidste årti er der gjort en seriøs indsats for at standardisere strukturelle elementer og gøre denne "zoo" til en " technopark " [11] : hvert neurale netværk fra zoologisk have er implementeret på en ideel universel neurocomputer med en given struktur.

De grundlæggende regler for at fremhæve de funktionelle komponenter i en ideel neurocomputer (ifølge Mirkes ):

  1. Relativ funktionel isolation: hver komponent har et klart sæt funktioner. Dets interaktion med andre komponenter kan beskrives som et lille antal forespørgsler.
  2. Evnen til at udveksle forskellige implementeringer af enhver komponent uden at ændre andre komponenter.

Markedet for neurocomputere er gradvist ved at opstå . I øjeblikket er forskellige meget parallelle neuro-acceleratorer [12] ( coprocessorer ) meget brugt til forskellige opgaver. Der er få modeller af universelle neurocomputere på markedet, delvis fordi de fleste af dem er implementeret til specielle applikationer. Eksempler på neurocomputere er Synapse neurocomputer (Siemens, Tyskland), [13] NeuroMatrix- processor [14] . Et specialiseret videnskabeligt og teknisk tidsskrift "Neurocomputers: development, application" udgives [15] . Der afholdes årlige konferencer om neurocomputere [16] . Fra et teknisk synspunkt er nutidens neurocomputere computersystemer med parallelle strømme af identiske kommandoer og flere datastrømme (MSIMD-arkitektur). Dette er en af ​​hovedretningerne i udviklingen af ​​massivt parallelle computersystemer .

Et kunstigt neuralt netværk kan overføres fra (neuro)computer til (neuro)computer, ligesom et computerprogram. Desuden kan specialiserede højhastigheds-analoge enheder oprettes på basis af det. Der er flere niveauer af fremmedgørelse af et neuralt netværk fra en universel (neuro)computer [17] : fra et netværk trænet på en universel enhed og ved hjælp af rige muligheder i at manipulere opgavebogen, indlæring af algoritmer og arkitekturmodifikation til fuldstændig fremmedgørelse uden læring og modifikationsmuligheder, kun funktionen af ​​det trænede netværk .

En af måderne at forberede et neuralt netværk på til transmission er dets verbalisering : det trænede neurale netværk minimeres, mens nyttige færdigheder bevares. Beskrivelsen af ​​et minimeret netværk er mere kompakt og giver ofte mulighed for en klar fortolkning.

Nyt twist - Wetware

I neurocomputing modnes en ny retning gradvist, baseret på forbindelsen af ​​biologiske neuroner med elektroniske elementer. I analogi med Software ( software ) og Hardware (elektronisk hardware ) blev disse udviklinger kaldt Wetware .

På nuværende tidspunkt er der allerede en teknologi til at forbinde biologiske neuroner med subminiature felteffekttransistorer ved hjælp af nanofibre Nanowire[18] Udviklingen bruger moderne nanoteknologi . Især bruges kulstofnanorør til at skabe forbindelser mellem neuroner og elektroniske enheder . [19]

En anden definition af begrebet "Wetware" er også almindelig - den menneskelige komponent i "menneske-computer"-systemer.

Ansøgninger

  1. Realtidskontrol [20] [21] , herunder:
    • fly og missiler [22] ,
    • teknologiske processer for kontinuerlig produktion (inden for energi, metallurgi osv.) [23] ,
    • hybrid (elektro-benzin) bilmotor [24] ,
    • pneumatisk cylinder [25] ,
    • svejsemaskine [26] ,
    • elektrisk ovn [27] ,
    • turbogenerator [28] .
  2. Mønstergenkendelse :
    • billeder [29] , menneskeansigter [30] , bogstaver og hieroglyffer, fingeraftryk i retsmedicin, tale, radar og sonarsignaler,
    • elementarpartikler og de fysiske processer, der forekommer med dem (eksperimenter med acceleratorer eller observation af kosmiske stråler),
    • sygdomme ved symptomer (i medicin) [31] ,
    • områder, hvor mineraler bør søges (i geologi, ved indirekte tegn),
    • tegn på fare i sikkerhedssystemer,
    • egenskaber af kemiske forbindelser efter struktur (i kemoinformatik ) [32]
  3. Realtids forudsigelse :
    • vejr,
    • aktiekurs (og andre finansielle indikatorer) [33] ,
    • behandlingsresultat,
    • politiske begivenheder (valgresultater, internationale forbindelser osv.) [34] [35] ,
    • fjendens adfærd (virkelig eller potentiel) i en militær konflikt og i økonomisk konkurrence,
    • bæredygtighed af ægteskabelige forhold.
  4. Optimering  - find de bedste muligheder:
    • ved design af tekniske anordninger, [36]
    • når du vælger en økonomisk strategi,
    • når du vælger et hold (fra ansatte i virksomheden til atleter og deltagere i polarekspeditioner),
    • ved behandling af en patient.
  5. Signalbehandling i nærvær af stor støj.
  6. Proteser ("smarte proteser ") og forbedring af naturlige funktioner [37] , herunder gennem direkte forbindelse af det menneskelige nervesystem til computere ( Neuro-computer interface ).
  7. Psykodiagnostik [38] [39] [40]
  8. Telekommunikationssvig , dets opdagelse og forebyggelse ved hjælp af neurale netværksteknologier, er ifølge nogle eksperter [41] en af ​​de mest lovende teknologier inden for informationssikkerhed i telekommunikationsnetværk.
  9. Informationssikkerhed [42]

Se også

Litteratur

Noter

  1. Dunin-Barkovsky V. L. , Neurocybernetics, Neuroinformatics, Neurocomputers Arkivkopi af 19. august 2017 på Wayback Machine , I bogen: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N. Kirdinsk og etc. Siberian Enterprise RAS, 1998. - 296 med ISBN 5-02-031410-2
  2. Wiener N. , kybernetik eller kontrol og kommunikation i dyr og maskine. Arkiveret 13. april 2010 på Wayback Machine / Pr. fra engelsk. I. V. Solovyov og G. N. Povarov; Ed. G. N. Povarova. — 2. udgave. — M.: Nauka, 1983. — 344 s.
  3. Neurale netværk - dengang og nu . Hentet 9. marts 2011. Arkiveret fra originalen 30. august 2017.
  4. Korolev L. N. Neurocomputing, neurale netværk og neurocomputere Arkivkopi af 6. september 2008 på Wayback Machine
  5. Widrow B., Stearns S. , Adaptiv signalbehandling. - M .: Radio og kommunikation, 1989. - 440 s.
  6. Bongard M. M. , The problem of recognition Arkivkopi af 4. marts 2016 på Wayback Machine M .: Fizmatgiz, 1967. Endnu en kopi online: [1]  (utilgængeligt link)
  7. Rosenblatt, F. The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. I, Psychological Review, Vol. 65, nr. 6, s. 386-408, november, 1958. Lancaster, PA og Washington, DC: American Psychological Association, 1958. Rosenblatt, F. Principles of Neurodynamics. Perceptrons and the Theory of Brain Mechanisms Arkivkopi dateret 10. november 2007 på Wayback Machine  - M .: Mir, 1965.
  8. Gorban A. N. Neurocomputer, eller den analoge renæssancearkivkopi dateret 12. maj 2013 på Wayback Machine , PC World, 1994, nr. 10, 126-130 .
  9. Gorban A.N. , Hvem er vi, hvor skal vi hen, hvordan kan vi måle vores vej? Arkiveksemplar dateret 14. august 2009 på Wayback Machine , plenarrapport ved åbningen af ​​Neuroinformatics-99-konferencen, MEPhI, 20. januar 1999. Journalversion: Gorban A.N. , Neuroinformatics: who we are, where we are going, how to måle vores vej // Beregningsteknologi. — M.: Mashinostroenie. - 2000. - Nr. 4. - S. 10-14. = Gorban AN , Neuroinformatik: Hvad er os, hvor skal vi hen, hvordan måler vi vores vej? Arkiveret 17. februar 2016 på Wayback Machine Foredraget på USA-NIS Neurocomputing Opportunities Workshop, Washington DC, juli 1999 (associeret med IJCNN'99 )
  10. Savelyev A. V. , Neurocomputere i opfindelser // Neurocomputere: udvikling, applikation. Arkivkopi dateret 11. september 2016 på Wayback Machine , M. Radiotekhnika, 2004, nr. 2-3, s. 33-49.
  11. Mirkes E.M. , Neurocomputer. Udkast til standard. Arkiveksemplar dateret 15. juni 2009 på Wayback Machine  - Novosibirsk: Nauka, 1999. - 337 med ISBN 5-02-031409-9 Andre online kopier: Arkiveret kopi . Hentet 15. oktober 2008. Arkiveret fra originalen 3. juli 2009.
  12. Savelyev A.V. , Neuroaccelerator. Neural netværksaccelerator // Certifikat. om registrering af computerprogrammet nr. 2003610307, ​​ansøgning 2002612174, 2003.
  13. Shakhnov V., Vlasov A., Kuznetsov A. , Neurocomputere - arkitektur og implementering. Del 1. Arkiveret 9. oktober 2008 på Wayback Machine ChipNews, 2000, N 5; Del 2. Elementbase af neurocomputere. Arkiveret 17. august 2009 på Wayback Machine ChipNews, 2000, N 6; Del 3. Hardwareimplementering af neurocomputere. Arkiveret 9. oktober 2008 på Wayback Machine ChipNews, 2001, 1.
  14. [https://web.archive.org/web/20161012222905/http://www.module.ru/ruproducts/proc/nm6403.shtml Arkiveret 12. oktober 2016 på Wayback Machine Digital Signal Processor L1879VM1 (NM6403) STC "Modul" ]
  15. Tidsskrift "Neurocomputere: udvikling, applikation". Arkiveret 11. september 2016 på Wayback Machine
  16. Savelyev A.V. X ALL-RUSSIAN SCIENTIFIC CONFERENCE "NEUROCOMPUTERS AND THEIR APPLICATIONS" NKP-201 Arkiveret 27. marts 2012 på Wayback Machine
  17. Gorban A. N. Træning af neurale netværk , red. USSR-USA Joint Venture "Paragraph", 1990, 160 s.
  18. Patolsky F., Timko BP, Yu G., Fang Y., Greytak AB, Zheng G. og Lieber CM "Detection, Stimulation, and Inhibition of Neuronal Signals with High-Density  Nanowire //Transistor Arrays"  - 25. august 2006. - Iss. 313 , nr. 5790 . - S. 1100-1104 . - doi : 10.1126/science.1128640 .
  19. Mazzatenta A., Giugliano M., Campidelli S., Gambazzi L., Businaro L., Markram H., Prato M. og Ballerini L. “Interfacing Neurons with Carbon Nanotubes: Electrical Signal Transfer and Synaptic Stimulation in Cultured Brain Circuits »  (engelsk)  // The Journal of Neuroscience. - 27. juni 2007. - Nej. 27 . - P. 6931-6936 . - doi : 10.1523/JNEUROSCI.1051-07.2007 .
  20. Terekhov V. A., Efimov D. V., Tyukin I. Yu. Neurale netværkskontrolsystemer. - M .: Højere skole , 2002. - S. 184. - ISBN 5-06-004094-1 .
  21. Tyukin I. Yu., Terekhov V. A. , Tilpasning i ikke-lineære dynamiske systemer Arkivkopi dateret 2. november 2012 på Wayback Machine , (Serie: Synergetics: fra fortiden til fremtiden), St. Petersborg: LKI, 2008. - 384 s. . ISBN 978-5-382-00487-7
  22. Brugen af ​​neurocomputere i raket- og rumteknologi. Sammenfatning af artikler. Efimov V. V. (red.). - M .: Radioteknik, 2006. - 144 C.
  23. Galushkin A.I. Application of neurocomputers in power systems , M.: Scientific Center of neurocomputers, 1997.
  24. Danil V. Prokhorov. Toyota Prius HEV Neurokontrol og diagnostik , Neurale netværk. – 2008. – Nej. 21. - S. 458 - 465
  25. Zmeu K.V., Markov N.A., Shipitko I.A., Notkin B.S. Modelfri prædiktiv invers neurokontrol med en regenereret referencetransient // Intelligente Systems. - 2009. - Nr. 3. - S. 109 - 117. . Hentet 30. oktober 2011. Arkiveret fra originalen 27. september 2016.
  26. D'Emilia G., Marrab A., Natalea E. Brug af neurale netværk til hurtig og præcis auto-tuning af PID-controller // Robotics and Computer-Integrated Manufacturing. - 2007. - Bd. 23. - S. 170 - 179.
  27. Dias FM, Mota AM Sammenligning mellem forskellige kontrolstrategier ved hjælp af neurale netværk // 9. Middelhavskonference om kontrol og automatisering. – Dubrovnik, Kroatien, 2001 . Hentet 30. oktober 2011. Arkiveret fra originalen 27. september 2016.
  28. Venayagamoorthy GK, Harley RG, Wunsch DC Implementering af Adaptive Critic-baserede neurocontrollere til turbogeneratorer i et multimaskine-kraftsystem, IEEE-transaktioner på neurale netværk. - 2003. - Bd. 14, hæfte 5. - S. 1047 - 1064. (utilgængeligt link) . Hentet 30. oktober 2011. Arkiveret fra originalen 12. juni 2010. 
  29. Ruaro ME, Bonifazi P. og Torre V., Toward the Neurocomputer: Image Processing and Pattern Recognition With Neuronal Cultures Arkiveret 6. maj 2006 på Wayback Machine , IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING, BIND. 52, NR. 3, MARTS 2005, 371-383.
  30. Micheli-Tzanakou, E., Uyeda, E., Ray, R., Sharma, A., Ramanujan, R., Dong, J. , Comparison of Neural Network Algorithms for Face Recognition, SIMULATION 65 (1995), 37- 51
  31. Rossiev D. A. , Medical Neuroinformatics Arkivkopi af 19. august 2017 på Wayback Machine , I bogen: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N. Kirdin og andre - Novosibirsk: The science. Siberian Enterprise fra Det Russiske Videnskabsakademi, 1998. - 296 s.
  32. I. I. Baskin, V. A. Palyulin, N. S. Zefirov. Anvendelse af kunstige neurale netværk til forudsigelse af kemiske forbindelsers egenskaber // Neurocomputere: udvikling, anvendelse. - 2005. - Nr. 1 - 2. - S. 98 - 101.
  33. Galushkin A.I. , Anvendelser af neurocomputere i finansielle aktiviteter. Arkiveret 10. juni 2008 på Wayback Machine
  34. Mirkes E. M. , Logisk gennemsigtige neurale netværk og produktion af eksplicit viden fra data Arkivkopi af 19. august 2017 på Wayback Machine , I bogen: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N Kirdin og andre - Novosibirsk : Videnskab. Siberian Enterprise RAS, 1998. - 296 med ISBN 5-02-031410-2
  35. Borisyuk, R., Borisyuk, G., Rallings, C. og Thrasher, M. Forecasting the 2005 General Choice: A Neural Network Approach. British Journal of Politics and International Relations. 7(2) (2005), 199-209.
  36. Terekhov S. A. , Neurale netværksinformationsmodeller af komplekse ingeniørsystemer Arkivkopi dateret 19. august 2017 på Wayback Machine , I bogen: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N. Kirdin og andre - Novosibirsk: Science. Siberian Enterprise RAS, 1998. - 296 med ISBN 5-02-031410-2
  37. Morillas C., Romero S., Martinez A., Pelayo F., Reyneri L., Bongard M., Fernandez, E., A neuroengineering suite of computational tools for visual protheses , Neurocomput., 70 (16-18) ( 2007), 2817-2827.
  38. Gorban AN, Rossiyev DA, Dorrer MG , MultiNeuron - Neural Networks Simulator For Medical, Physiological, and Psychological Applications Arkiveret 17. februar 2016 på Wayback Machine , Wcnn'95, Washington, DC: World Congress on Neural Networks 1995 International Neural Network Society Årsmøde: Renaissance Hotel, Washington, DC, USA, 17.-21. juli 1995.
  39. Dorrer MG, Gorban AN, Kopytov AG, Zenkin VI , Psychological Intuition of Neural Networks. Proceedings of the 1995 World Congress On Neural Networks, A Volume in the INNS Series of Texts, Monographs, and Proceedings, Vol. 1, 1995, 193-196.
  40. M. G. Dorrer , Psychological Intuition of Artificial Neurale Networks Arkiveret 25. marts 2009 på Wayback Machine , Diss. … 1998. Andre kopier online: [2] Arkiveret 7. april 2009 på Wayback Machine
  41. Taniguchi M., Haft M., Hollm\'en J., Tresp V. , Svigdetektion i kommunikationsnetværk ved brug af neurale og sandsynlighedsmetoder Arkiveret 29. december 2009 på Wayback Machine , i forbindelse med 1998 IEEE International Conference on Acoustics , Speech and Signal Processing (ICASSP'98), bind II, side 1241-1244, 1998.
  42. Chervyakov N.I., Evdokimov A.A., Galushkin A.I. , Lavrinenko I.N. et al. , Brugen af ​​kunstige neurale netværk og systemet af resterende klasser i kryptografi Arkivkopi af 6. september 2014 på Wayback Machine , - M .: FIZMATLIT, 2012.- 280 s. - ISBN 978-5-9221-1386-1 .