Cerebras Systems, en ung kunstig intelligensfirma, er klar til at vise verden Cerebras WSE (Cerebras Wafer Scale Engine) - den største, mest kraftfulde og smarteste halvlederchip i historien.
Cerebras WSE har 1,2 billioner transistorer, grundlæggende elektroniske afbrydere, som er byggestenene i siliciumchips. Til sammenligning havde Intels første 4004-processor, der blev frigivet i 1971, 2.300 transistorer, mens den nyeste Advanced Micro Devices-processor har 32 milliarder transistorer. Men spørgsmålet her handler slet ikke om antallet af transistorer.
De fleste af chipsene i verden er faktisk et sæt chips oprettet på basis af en 12-tommers siliciumskive - de er produceret i specielle fabrikker i enorme batches. Men Cerebras Systems-chippen er 400.000 kerner forbundet på en plade. Forbindelserne er designet til at arbejde med høje hastigheder, hvorfor en billioner transistorer arbejder sammen som en. Men det er ikke alt.
Indtil videre er verdens største chip skabt af Samsung - dens struktur er bygget på 2 billioner transistorer. Samsung-chippen er dog bare et enormt hukommelseskort, og Cerebras-chippen er det mest komplekse neurale netværk, der er specielt oprettet til træning af kunstig intelligens. Cerebras-chippen kan prale af 400.000 kerner i 42.225 kvadratmeter. Det er 56,7x større end Nvidias største GPU med kun 21,1 milliarder transistorer.
En anden funktion ved Cerebras WSE er, at chippen er designet til at blive dirigeret omkring defekte områder.
Det er ikke muligt at perfektere hele siliciumskiven under chipfremstilling, så fremstillingsprocessen skaber områder, der er ubrugelige. Nvidia, Intel og andre chipmakere omhandler problemet ganske enkelt: De skærer de "rigtige" chips i produktionsskiven og smider resten af. Men dette kan ikke gøres, hvis hver chip i siliciumskiven er en del af et fælles kredsløb. Derfor måtte Cerebras opbygge overflødige kredsløb, så i tilfælde af en sammenbrud eller udbrænding af en af dem, ville resten overtage dens funktioner. Det er faktisk, at Cerebras-chippen er et miniature-internet med sine egne servere og arbejdsstationer. Og alle disse stationer er designet til at tjene en kunstig intelligens.
Virksomheder, der udvikler deres egen AI, er i dag de største forbrugere af chipteknologi og køber dele i enorme mængder. Og størrelsen på de anvendte chips er kritisk vigtig i AI-uddannelsesprocessen.
Salgsfremmende video:
Google, Facebook, OpenAI, Tencent, Baidu og mange andre hævder, at en grundlæggende begrænsning af moderne AI er, at det tager for lang tid at træne modeller. For eksempel bruger Nvidias supercomputer, der består af snesevis af avancerede GPU'er, flere uger på at finpusse koden - det vil sige at lære neutronnetværket.
Løsningen på problemet ville være at øge antallet af chips i computeren, men når mere end otte chips er samlet, øges computerens ydelse ikke længere, men formindskes, da der ophobes fejl under informationsudvekslingen.
Udviklerne beskriver selv deres projekt som følger:”Den sværeste del for AI er dataflytning. Træning af et neuralt netværk kræver, at tusinder af operationer udføres parallelt på ethvert givet tidspunkt, og chipsene skal konstant kommunikere, når de udfører disse parallelle operationer. Men computere med flere IC'er går i stykker og prøver at overføre data mellem IC'er over langsomme ledninger, der binder dem sammen på en PCB. Du havde brug for noget, der kunne flytte data med selve chippens hastighed. Løsningen var at tage den største plade, du kan finde, og skære den største chip ud af den."
Hukommelse er en nøglekomponent i enhver computerarkitektur. Hukommelse tættere på computerenhederne giver hurtigere beregninger, lavere latenstid og bedre energieffektivitet, når du flytter data. Imidlertid er formstørrelsen begrænset, og det meste af hukommelsen på computeren er uden for matricen. Cerebras Systems omgås dette problem ved at give hver kerne adgang til 18 gigabyte intern hukommelse. Som et resultat har Cerebras Wafer Scale Engine 3.000 gange mere indbygget hukommelse end den mest avancerede grafikprocessor, mens den leverer 10.000 gange mere båndbredde.
De første prøver af den nye chip vil blive solgt i september, mens Cerebras Systems, efter at have overtrådt alle eksisterende regler for computerindustrien, også krænkede princippet om at adskille produktionen af computerenheder og chips. Cerebras Wafer Scale Engine markedsføres som en enkelt, virksomhedsudviklet enhed integreret i et komplekst vandkølingsnetværk, da chippen genererer ekstrem varme og bruger 15 kilowatt i et så lille område.
Cerebras Systems 'grundlægger og fungerende administrerende direktør siger: “Designet fra grunden til at arbejde med AI indeholder Cerebras WSE grundlæggende innovationer, der endelig bryder den årtiers gamle stagnation af den aktuelle teknik. Som et resultat giver Cerebras WSE ydelsesgevinster hundreder eller tusinder af gange over moderne modulopløsninger. Og alt dette med latterligt strømforbrug og lidt plads."
Redaktionel kommentar
De første AI-test, der er baseret på Cerebras WSE, viser, at de opgaver, som den øverste AI fra Nvidia løser i uger og måneder, Cerebras WSE løser inden for et minut, hvilket er, som det var, grund til glæde. Imidlertid har konspirationsteoretikerne lidt glæde i denne henseende.
Vi husker alle (under alle omstændigheder den ældre generation af vores læsere) computerboomen i modellen "skamrende 90'erne", da computerenes kraft i et par år sprang af størrelsesordrer. Tidligere købte en person, der strålede af stolthed, en computer med 16 megabyte hukommelse, da denne hukommelse efter kort tid flyttede til L2-cache.
Siden begyndelsen af 2000'erne så det imidlertid ud til, at computerindustrien var stoppet: hvis computere fra 1990- og 2000-modellerne ikke var sammenlignelige, var der ingen særlig forskel mellem computere i 2000- og 2010-modellerne - styrken steg stærkt, men ikke efter størrelsesordrer. Og nu er vi vidne til fødslen af den anden Intel 8086, og nu vil kapaciteterne på Cerebras WSE-linjen hoppe i samme tempo: alle problemer med urenheder og kerneforbindelser er nu løst.
Vi kender ikke alle mulighederne i moderne AI fra førende producenter, men ifølge den generelle opfattelse er disse produkter endnu ikke AI, og de er stadig langt fra en fuldt udstyret tænkende enhed. Ikke desto mindre tog Cerebras WSE ikke bare et skridt i den rigtige retning, men sprang ti år, hvis ikke mere fremad, og nu er SkyNet allerede et ret forventet udsigt, der kan realiseres i år i 2025.
Derudover kræves der i SkyNet, i modsætning til kedelige homosapiens, ikke meget tid til videreudvikling: et neuralt netværk skal bare begynde at tænke lidt på egen hånd - og det ændrer sig selv på et øjeblik, hvorefter det starter en atomkrig eller lignende. Og det vil stadig være en meget god mulighed.
Når der fremstilles et flashdrev med en billioner transistorer af Samsung eller Nvidia, kan alt dette stadig forklares på en eller anden måde, da hukommelseslogikskredsløbene er relativt enkle og af samme type næsten i hele området. Men udviklingen af 400.000 kerner, der pløjer på samme tid, og der er også nogle duplikater, og nogle serverstationer og helvede ved hvad. Og du skal også skrive kontrolprogrammer til dette, som er skrevet i årevis. Derefter skal programmerne testes. Men hvad blev de testet på, hvis enheden først blev lavet?
Med andre ord ser det ud til, at "Martians" igen har åbnet deres skraldespand for de lokale indfødte. Og der er stor tvivl om, at dette blev gjort for at glæde spillerne - sandsynligvis er der en anden opgave her. Og det ser ud for os som følger.
I de senere årtier stiller smarte mennesker i stigende grad spørgsmålet om oprindelsen af elektronisk teknologi, spørgsmålet om universel chipisering, som ikke er klar over, hvorfor det er nødvendigt, og så videre. For på en eller anden måde at narre deres hjerner kom de med en eventyr om en "kvantecomputer", hvis principper ikke forstås selv af mennesker, der er udnævnt til de officielle "udviklere". Og forestil dig nu rækken for den gennemsnitlige mexicanske husmor, hvis nye mobiltelefon ikke kun vil tænke bedre end hun, men også medbringe en slags "kvantecomputer". Det vil sige, at sådan et nar er uacceptabelt for lokale indfødte - de vil begynde at blive vanvittige i mange mennesker.
Derfor besluttede nogle kloge "martiere" at vise de bipedale aboriginer af planeten Jorden et enklere mirakel - de principper, som de ældste fra NASA i det mindste på en eller anden måde kan forklare. Og hvis de indfødte accepterer fortællingen, vil "martianerne" vise folkene andre magiske vidundere. For eksempel skubber de denne Cerebras WSE ind i en mobiltelefon og sælger den for hundrede dollars. For købere af moderigtige gadgets vil dette naturligvis være meget cool og godt, men folk vil tænke lidt smartere med det samme: hvad er der så i serverrum for forskellige seriøse organisationer, f.eks. NSA, FBI og CIA? Hvad er mulighederne for at kontrollere befolkningens tanker og adfærd?