Neurale netværk er magtfulde ting, men meget glupske. Ingeniører ved Massachusetts Institute of Technology (MIT) har haft succes med at udvikle en ny chip, der reducerer strømforbruget på det neurale netværk med 95%, hvilket i teorien kan give dem mulighed for at arbejde selv på mobile enheder med batterier. Smartphones bliver smartere og smartere i disse dage og tilbyder flere AI-drevne tjenester som virtuelle assistenter og realtidsoversættelser. Men normalt behandler neurale netværk data for disse tjenester i skyen, og smartphones overfører kun data frem og tilbage.
Dette er ikke ideelt, fordi det kræver en tyk kommunikationskanal og antager, at følsomme data transmitteres og gemmes uden for brugerens rækkevidde. Men de kolossale mængder energi, der kræves til at tænde neurale netværk drevet af GPU'er, kan ikke leveres i en enhed, der er drevet af et lille batteri.
MIT-ingeniører har udviklet en chip, der kan reducere dette strømforbrug med 95%. Chippen reducerer drastisk behovet for at overføre data frem og tilbage mellem chipens hukommelse og processorer.
Neurale netværk består af tusinder af sammenhængende kunstige neuroner arrangeret i lag. Hver neuron modtager input fra flere neuroner i det underliggende lag, og hvis det kombinerede input passerer en bestemt tærskel, overfører det resultatet til flere neuroner ovenfor. Styrken af forbindelsen mellem neuroner bestemmes af den vægt, der er fastlagt under træningsprocessen.
Dette betyder, at for hver neuron skal chippen udtrække input til en bestemt forbindelse og vægten af forbindelsen fra hukommelsen, multiplicere dem, gemme resultatet og derefter gentage processen for hver input. En masse data rejser her og der, og meget energi spildes.
Den nye MIT-chip eliminerer dette ved at beregne alle indgange parallelt i hukommelsen ved hjælp af analoge kredsløb. Dette reducerer mængden af data, der skal overhales markant, og resulterer i betydelig energibesparelser.
Denne tilgang kræver, at forbindelsenes vægt er en binær snarere end et interval, men tidligere teoretisk arbejde har vist, at dette ikke i høj grad vil påvirke nøjagtigheden, og forskerne fandt, at resultaterne af chippen adskiller sig med 2-3% fra den sædvanlige version af det neurale netværk, der opererer på en almindelig computer.
Dette er ikke første gang, videnskabsmænd har oprettet chips, der behandler processer i hukommelsen, hvilket reducerer strømforbruget i et neuralt netværk, men dette er første gang denne fremgangsmåde er blevet brugt til at betjene et stærkt neuralt netværk kendt for dets billedbehandling.
Salgsfremmende video:
"Resultaterne viser imponerende specifikationer for den energieffektive implementering af rullende operationer inden for en hukommelsesgruppe," sagde Dario Gil, vicepræsident for kunstig intelligens hos IBM.
"Dette åbner helt sikkert mulighederne for at bruge mere sofistikerede indviklede neurale netværk til at klassificere billeder og videoer på tingenes internet i fremtiden."
Og dette er interessant ikke kun for F & U-grupper. Ønsket om at sætte AI på enheder som smartphones, husholdningsapparater og alle slags IoT-enheder skubber mange i Silicon Valley mod chips med lav effekt.
Apple har allerede integreret sin Neural Engine i iPhone X til strøm til f.eks. Ansigtsgenkendelsesteknologi, og det ryktes at Amazon udvikler sine egne AI-chips til den næste generation af Echo digitale assistenter.
Store virksomheder og chipproducenter er også i stigende grad afhængige af maskinlæring, hvilket tvinger dem til at gøre deres enheder endnu mere energieffektive. Tidligere i år afslørede ARM to nye chips: Arm Machine Learning-processoren, der håndterer generelle AI-opgaver fra oversættelse til ansigtsgenkendelse, og Arm Object Detection-processoren, der for eksempel registrerer ansigter i billeder.
Qualcomms nyeste mobile chip, Snapdragon 845, har en GPU og er stærkt AI-drevet. Virksomheden afslørede også Snapdragon 820E, som skulle fungere i droner, robotter og industrielle enheder.
Ser vi fremad, udvikler IBM og Intel neuromorfe chips med arkitektur inspireret af den menneskelige hjerne og utrolig energieffektivitet. Dette kunne teoretisk gøre det muligt for TrueNorth (IBM) og Loihi (Intel) at udføre kraftfuld maskinlæring ved kun at bruge en brøkdel af kraften i konventionelle chips, men disse projekter er stadig meget eksperimentelle.
Det vil være meget vanskeligt at tvinge de chips, der giver liv til neurale netværk for at spare på batteristrøm. Men i det aktuelle innovationshastighed ser denne "meget vanskelige" ganske gennemførlig ud.
Ilya Khel