Et lille, selvorganiseret netværk af kunstige synapser husker deres oplevelser og kan løse enkle problemer. Dets skabere håber, at en dag på grundlag af denne kunstige hjerne vil blive oprettet enheder, der i deres energieffektivitet ikke er ringere end hjernens computerkraft. Generelt er hjerner, hvis vi udelader deres resultater med at tænke og løse problemer, perfekte i deres energieffektivitet. Hjernen har brug for den samme mængde energi for at arbejde som en 20-watt glødelampe absorberer. Og en af de mest kraftfulde og hurtigste supercomputere i verden, Computer K i Kobe, Japan, bruger op til 9,89 megawatt strøm - omtrent det samme som 10.000 hjem. Men i 2013 tog det selv med denne energi maskinen 40 minutter at simulere 1% af den menneskelige hjerne aktivitet på 1 sekund.
Og så håber forskningsingeniører ved NanoSystems Institute i Californien ved University of California, Los Angeles at konkurrere med de computernære og energieffektive evner i hjernen takket være systemer, der spejler hjernens struktur. De skaber en enhed, muligvis den første af sin art, der er "inspireret af hjernen til at generere egenskaber, der gør det muligt for hjernen at gøre, hvad den gør," siger Adam Stig, en forsker og lektor ved instituttet, der leder projektet med Jim Gimrzewski, professor i kemi ved University of California. I Los Angeles.
Deres design ligner overhovedet ikke almindelige computere, der er baseret på små ledninger, der er trykt på siliciummikrokredsløb i højt ordnede kredsløb. Den aktuelle eksperimentelle version er et 2 x 2 mm gitter af sølv-nanotråde forbundet med kunstige synapser. I modsætning til siliciumkredsløb med sin geometriske præcision er denne enhed vævet som en "godt blandet spaghetti-skål," siger Stig. Desuden er dens fine struktur organiseret ud fra tilfældige kemiske og elektriske processer og er ikke nøje designet.
I sin kompleksitet ligner dette sølvnet en hjerne. Der er en milliard kunstige synapser pr. Kvadratcentimeter af gitteret, hvilket er adskillige størrelsesordener forskellig fra den rigtige hjerne. Netværkets elektriske aktivitet udviser også en egenskab, der er unik for komplekse systemer som hjernen: "kritisk", en tilstand mellem orden og kaos, der indikerer maksimal effektivitet.
Dette netværk af stærkt sammenflettede nanotrådere kan se kaotisk og tilfældigt ud, men dets struktur og opførsel ligner neuroner i hjernen. Forskere fra NanoSystems udvikler det som en hjerneenhed til læring og computing.
Indledende eksperimenter viser endvidere, at dette neuromorfe (dvs. hjernelignende) sølvtrådnet har stort funktionelt potentiale. Hun kan allerede udføre enkle uddannelsesmæssige og logiske operationer. Det kan fjerne uønsket støj fra det modtagne signal, en vigtig evne til stemmegenkendelse og lignende opgaver, der skaber problemer på traditionelle computere. Og dens eksistens beviser princippet om, at det en dag vil være muligt at skabe enheder med energieffektivitet tæt på hjernen.
Disse fordele er især nysgerrige på baggrund af den nærliggende grænse for miniaturisering og effektivitet af siliciummikroprocessorer. "Moores lov er død, halvledere kan ikke længere blive mindre, og folk begynder at græle om, hvad de skal gøre," siger Alex Nugent, administrerende direktør for Knowm, et neuromorfisk computervirksomhed, der ikke er involveret i UCLA-projektet.”Jeg kan godt lide denne idé, denne retning. Konventionelle databehandlingsplatforme er en milliard gange mindre effektive."
Salgsfremmende video:
Skifter som synapser
Da Gimrzewski begyndte at arbejde på sit sølvnetprojekt for 10 år siden, var han overhovedet ikke interesseret i energieffektivitet. Han kede sig. Efter at have brugt et scannende tunnelmikroskop til at studere elektronik i atomskalaen i 20 år sagde han til sidst: "Jeg er træt af perfektion og præcis kontrol og lidt træt af reduktionisme."
Det bør antages, at reduktionisme ligger til grund for alle moderne mikroprocessorer, når komplekse fænomener og kredsløb kan forklares ved hjælp af enkle fænomener og elementer.
I 2007 blev han bedt om at studere individuelle atomomskiftere (eller afbrydere) udviklet af Masakazu Aono-gruppen fra International Center for Materials on Nanoarchitectonics i Tsukuba, Japan. Disse kontakter indeholdt den samme ingrediens, der gør en sølvsked sort, når den rører ved et æg: jernsulfid klemt mellem hårdt metallisk sølv.
Påføring af spænding på enhederne skubber de positivt ladede sølvioner i sølvsulfidet mod sølvkatodelaget, hvor de reduceres til metallisk sølv. De atomære sølvfilamenter vokser og lukker til sidst afstanden mellem de metalliske sølvsider. Kontakten er tændt, og strømmen kan strømme. At vende strømmen har den modsatte virkning: Sølvbroerne er forkortet, og afbryderen er slukket.
Kort efter udviklingen af kontakten begyndte Aonos gruppe imidlertid at observere usædvanlig opførsel. Jo oftere brugen af afbryderen var, jo lettere var det at tænde. Hvis det ikke blev brugt i nogen tid, slukkede det gradvist på egen hånd. Grundlæggende huskede omskifteren sin historie. Aono og hans kolleger fandt også, at afbryderne så ud til at interagere med hinanden, således at tænding af en afbryder undertiden ville blokere eller slukke for andre i nærheden.
Flertallet i Aonos gruppe ønskede at konstruere disse underlige egenskaber uden for switches. Men Gimrzewski og Stig (som netop havde afsluttet sin ph.d. i Gimrzewskis gruppe) huskede synapser, skiftene mellem nerveceller i den menneskelige hjerne, der også ændrer forholdet til erfaring og interaktion. Og så blev ideen født.”Vi tænkte, hvorfor ikke prøve at oversætte alt dette til en struktur, der ligner en hjernebark fra pattedyr og studere det?” Siger Stig.
Det var bestemt vanskeligt at opbygge en så kompleks struktur, men Stig og Odrius Avicenis, der netop var kommet med i gruppen som kandidatstuderende, udviklede en protokol til dette. Ved at hælde sølvnitrat på små kobbersfærer, kunne de få mikroskopisk tynde, krydsende sølvtråde til at vokse. De kunne derefter pumpe svovlgas gennem dette gitter for at skabe et lag af sølvfarvet sulfid mellem sølvtrådene, som i det originale Aono-teams atomomskifter.
Selvorganiseret kritik
Da Gimzewski og Stig fortalte andre om deres projekt, troede ingen, at det ville fungere. Nogle sagde, at enheden ville vise en type statisk aktivitet og slå sig ned med den, huskede Stig. Andre foreslog det modsatte:”De sagde, at omskifteren ville kaskade, og at hele strukturen bare ville brænde ud,” siger Gimzewski.
Men enheden smeltede ikke. I modsætning hertil, da Gimzewski og Stig så ham gennem et infrarødt kamera, fortsatte indgangsstrømmen med at ændre de stier, den tog gennem enheden - hvilket bevisede, at aktiviteten på netværket ikke var lokaliseret, men snarere distribueret, som i hjernen.
En efterårsdag i 2010, da Avicenis og hans kollega Henry Sillin øgede indgangsspændingen til enheden, bemærkede de pludselig, at udgangsspændingen begyndte at vibrere tilfældigt, som om trådnet var kommet til live.”Vi satte os ned og så på det, vi var chokeret,” siger Sillin.
De gættede, at de havde fundet noget interessant. Da Avicenis analyserede overvågningsdata over flere dage, fandt han, at netværket forblev på samme aktivitetsniveau i korte perioder oftere end i lange perioder. De fandt senere ud, at små aktivitetsområder var mere almindelige end store.
”Min kæbe faldt,” siger Avicenis, fordi det er første gang, de lærte en magtlov fra deres enhed. Strømlov beskriver matematiske sammenhænge, hvor en variabel ændrer sig som kraften i en anden. De gælder for systemer, hvor større skalaer, længere hændelser er mindre almindelige end mindre og kortere, men de er udbredte og ikke ved et tilfælde. Per Bac, en dansk fysiker, der døde i 2002, foreslog først magtlove som kendetegnende for alle slags komplekse dynamiske systemer, der kan organisere sig over store skalaer og lange afstande. Denne opførsel, sagde han, indikerer, at et komplekst system afbalancerer og fungerer på det gyldne middelværdi mellem orden og kaos, i en tilstand af "kritik", og alle dens dele interagerer og forbinder hinanden for at opnå maksimal effektivitet.
Som Buck forudsagde, blev magtlovadfærd observeret i den menneskelige hjerne: I 2003 observerede Dietmar Plenz, en neurofysiolog ved National Institutes of Health, at grupper af nerveceller aktiverede andre, som igen aktiverede andre, ofte udløste systemiske kaskader af aktiveringer. Plenz fandt, at størrelserne af disse kaskader følger en magtlovsfordeling, og hjernen handlede faktisk på en sådan måde, at aktiviteten spredtes uden at risikere at miste kontrollen over dens spredning.
Det faktum, at University of California-enheden også demonstrerede magtloven i handling, er meget vigtigt, siger Plentz. Fordi det følger, at det, som i hjernen, har en delikat balance mellem aktivering og hæmning, hvilket holder summen af dens dele i arbejde. Aktiviteten undertrykker ikke sættet, men den stopper heller ikke.
Gimrzewski og Stig fandt senere en anden lighed mellem sølvnetværket og hjernen: ligesom den sovende menneskelige hjerne udviser færre korte kaskader af aktivering end den vågne hjerne, bliver den korte aktiveringstilstand i sølvnetværket mindre almindelig ved lavere input-energier. På en måde kan reduktion af en enheds strømforbrug skabe en tilstand, der ligner den sovende tilstand i den menneskelige hjerne.
Læring og computing
Og her er spørgsmålet: hvis et netværk af sølvtråde har hjernelignende egenskaber, kan det løse beregningsproblemer? Foreløbige eksperimenter har vist, at svaret er ja, selvom enheden naturligvis ikke engang er fjernt sammenlignelig med en almindelig computer.
For det første er der ingen software. I stedet udnytter forskerne det faktum, at netværket kan forvrænge det indkommende signal på forskellige måder, afhængigt af hvor output er målt. Dette giver mulighed for anvendelse til tale- eller billedgenkendelse, da enheden skal være i stand til at rydde op i et støjende indgangssignal.
Det følger også af dette, at enheden kan bruges til såkaldte reservoirberegninger. Da en enkelt input principielt kan generere mange, millioner forskellige output (dermed reservoiret), kan brugerne vælge eller kombinere output, så resultatet er den ønskede inputberegning. For eksempel, hvis du stimulerer en enhed på to forskellige placeringer på samme tid, er der en chance for, at en af millioner af forskellige udgange repræsenterer summen af de to indgange.
Udfordringen er at finde de rigtige konklusioner og afkode dem og finde ud af, hvordan man bedst kan kode informationerne, så netværket kan forstå det. Dette kan gøres ved at træne enheden: ved at køre opgaven hundreder eller tusinder af gange, først med en type input, derefter med en anden og sammenligne hvilken output, der klarer opgaven bedre.”Vi programmerer ikke enheden, men vi vælger den bedste måde at kode informationerne på, så netværkets opførsel er nyttig og interessant,” siger Gimrzewski.
I et arbejde, der snart offentliggøres, vil forskere forklare, hvordan de træner et netværk af ledninger til at udføre enkle logiske operationer. Og i upublicerede eksperimenter trænede de netværket til at løse et simpelt hukommelsesproblem, der normalt gives til rotter (T-labyrinten). I T-labyrint-test belønnes rotten, hvis den foretager en korrekt drejning som reaktion på lys. Med sin egen version til træning kan netværket træffe det rigtige valg 94% af tiden.
Indtil videre har disse resultater været lidt mere end et bevis på princip, siger Nugent.”Den lille rotte, der tager en beslutning i T-labyrinten, kommer aldrig tæt på noget inden for maskinlæring, der kan evaluere dets systemer,” siger han. Han tvivler på, at enheden kan omdannes til en nyttig chip i de næste par år.
Men potentialet er stort, understreger han. Fordi netværket, som hjernen, ikke adskiller behandling og hukommelse. Traditionelle computere skal overføre information mellem forskellige domæner, der håndterer disse to funktioner.”Al denne ekstra kommunikation bygger sig op, fordi ledningerne har brug for strøm,” siger Nugent. Når man tager traditionelle computere, bliver man nødt til at slukke for Frankrig for at simulere en komplet menneskelig hjerne med anstændig opløsning. Hvis enheder som Silver Network kan løse problemer med effektiviteten af maskinlæringsalgoritmer, der kører på traditionelle computere, kan de bruge en milliard gange mindre strøm. Og så er sagen lille.
Forskernes fund understøtter også forestillingen om, at under de rette omstændigheder kan intelligente systemer dannes ved selvorganisation uden nogen form eller proces til deres udvikling. Silver Network "kom spontant op," siger Todd Hilton, en tidligere DARPA-manager, der støttede projektet tidligt.
Gimrzewski mener, at et netværk af sølvtråde eller lignende enheder kan være bedre end traditionelle computere til at forudsige komplekse processer. Traditionelle computere modellerer verden med ligninger, der ofte kun beskriver komplekse fænomener ca. Atomomskifter neuromorfe netværk tilpasser deres egen indre strukturelle kompleksitet med det fænomen, de simulerer. Og de gør det også hurtigt - netværkets tilstand kan svinge med op til titusinder af ændringer i sekundet.”Vi bruger et komplekst system til at forstå komplekse fænomener,” siger Gimrzewski.
Tidligere i år på et møde i American Chemical Society i San Francisco præsenterede Gimzewski, Stig og deres kolleger resultaterne af et eksperiment, hvor de fodrede enheden de første tre år af et seks-årigt Los Angeles-trafikdatasæt i en række pulser, der angiver antallet af passerer biler i timen. Efter hundreder af timers træning forudsagde output endelig den statistiske tendens i anden halvdel af datasættet, og ganske godt, selvom det ikke blev vist til enheden.
Måske en vittighed med Gimrzewski en dag, bruger han netværket til at forudsige aktiemarkedet.
Ilya Khel
