En aften i august 2010 indtog en 34 år gammel Londoner ved navn Demis Hassabis scenen i et konferencelokale i San Francisco Bay-området. Når han klatrede op til podiet med en skrå gang fra en mand, der forsøger at kontrollere sine nerver, pressede han læberne ind i et kort smil og talte:”Nå, i dag vil jeg tale om forskellige tilgange til skabelse …”. Han stoppede, som om han indså, hvor højt han erklærede sine ambitioner. Og han sagde det: "AGI".
AGI står for General Artificial Intelligence, et hypotetisk computerprogram, der kan udføre intellektuelle opgaver såvel som et menneske eller endda bedre. AGI vil være i stand til at udføre specifikke opgaver, såsom at genkende folk på fotos eller oversætte sprog, som i øjeblikket er i stand til at udføre mange separate kunstige intelligenser i vores telefoner og computere. De vil være i stand til at føre en samtale, spille skak og tale fransk på samme tid. De vil være i stand til at forstå fysikbøger, skrive romaner, udvikle investeringsstrategier og opretholde afslappet samtale med fremmede. De vil overvåge nukleare reaktioner, styre elnet og trafik og uden besvær lykkes med alt andet. AGI vil få det mest avancerede AI i dag til at ligne lommeregner.
Det eneste intellekt, der i øjeblikket er i stand til at udføre alle disse opgaver, hører til mennesker. Men det menneskelige sind er begrænset af størrelsen på kraniet, der huser hjernen. Dens styrke er begrænset af den lille mængde energi, som kroppen kan levere. Da AGI kører på computere, vil den ikke lide under disse begrænsninger. Hans intelligens vil kun være begrænset af antallet af tilgængelige processorer. AGI kan starte med at overvåge nukleare reaktioner. Men snart nok opdager han nye energikilder og fordøjer mere fysikarbejde pr. Sekund, end en person kan i tusind år. Menneskelig niveau intelligens, bakket op af computernes hastighed og skalerbarhed, vil spare os for besværet. Hassabis fortalte den britiske avis Observer, at han forventer, at AGI blandt andet vil tackle problemer såsom "kræft,klimaændringer, energi, genomik, makroøkonomi og finansielle systemer."
Konferencen, hvorpå Hassabis talte, kaldte Singularity-topmødet. Singularitet - den første del af navnet - henviser til den mest sandsynlige konsekvens af fremkomsten af AGI ifølge futurologer. Da AGI vil behandle information i høj hastighed, bliver de meget intelligent meget hurtigt. Hurtige selvforbedringscyklusser vil føre til en eksplosion af maskinens intelligens og lade folk snuse siliciumstøvet. Da denne fremtid udelukkende er baseret på ubekræftede antagelser, antages det næsten religiøst, at Singulariteten viser sig at være enten utopi eller helvede.
Deltagende efter titlerne på talerne troede konferencesdeltagerne mere på det første resultat: "Sind og hvordan man bygger det", "AI mod aldring", "Udskiftning af vores kroppe", "Ændring af grænsen mellem liv og død". Hassabis 'tale på den anden side virkede kedelig: "En systemisk neurovidenskabelig tilgang til at skabe AGI."
Hassabis skiftede mellem podiet og skærmen og talte i et mønster. Han havde en burgunder jumper og en hvid knap-down skjorte som en skoledreng. Hans lille statur syntes kun at understrege hans intelligens. Indtil nu, forklarede Hassabis, har forskere henvendt sig til AGI fra to sider. En tilgang, kendt som symbolsk AI, forsøgte at beskrive og programmere alle de regler, der var nødvendige for et system, der kunne tænke som et menneske. Denne tilgang var populær i 1980'erne og 1990'erne, men gav ikke de ønskede resultater. Hassabis mente, at hjernens mentale arkitektur var for subtil til at blive beskrevet på denne måde.
En anden tilgang har samlet forskere, der forsøger at digitalisere de fysiske netværk i hjernen digitalt. Det gav en vis mening. Tross alt er hjernen bedet af menneskelig intelligens. Men disse forskere var også på det forkerte spor, sagde Hassabis. Deres opgave var beslægtet med at skabe et kort over alle stjerner i universet. Mere dybt fokuserede de på det forkerte niveau af hjernefunktion. Det var som at prøve at finde ud af, hvordan Microsoft Excel fungerer ved at hacke ind i en computer og lære, hvordan transistorer interagerer.
I stedet tilbød Hassabis et mellemgrund: AGI skulle hente inspiration fra de brede måder, hvorpå hjernen behandler information, ikke fra fysiske systemer eller specifikke regler, som det gælder for specifikke situationer. Med andre ord, han skal fokusere på at forstå hjernens software, ikke dens hardware. Nye teknikker, såsom funktionel magnetisk resonansafbildning (fMRI), der muliggjorde indsigt i hjernen, mens den fungerede, antydede, at en sådan forståelse var mulig. Nylige studier, sagde Hassabis, viser, at hjernen lærer ved at afspille sine oplevelser under søvn for at afsløre generelle principper. AI-forskere skal efterligne et sådant system.
Salgsfremmende video:
I det nederste højre hjørne af åbningsglasset flaunter logoet i form af en rund blå hvirvel. De to ord ved siden af er trykt nedenfor: DeepMind. Dette var første gang, at virksomheden blev omtalt offentligt. Hassabis brugte over et år på at prøve at få en invitation til Singularity-topmødet. Foredraget var hans omslag. Faktisk havde han brug for et minut med Peter Thiel, Silicon Valley-miljardæren, der finansierede konferencen. Hassabis ville have Thiel's investering.
Hassabis talte aldrig om, hvorfor han havde brug for Thiels støtte. Men Thiel troede endnu mere på AGI end Hassabis. Thiel sagde på Singularity-topmødet i 2009, og sagde Thiel, at hans største frygt for fremtiden ikke var en robotopstand. Han var mere bekymret for, at Singulariteten ikke kom snart. Verden havde brug for nye teknologier for at afværge en økonomisk nedtur.
DeepMind sluttede med at rejse 2 millioner pund, hvoraf Thiel var 1,4 millioner. Da Google købte virksomheden i januar 2014 for $ 600 millioner, tjente Thiel og andre tidlige investorer et afkast på 5.000% af deres investering.
For mange stiftere ville dette være en lykkelig afslutning. Man kunne hvile, tage et skridt tilbage, bruge tid alene med penge. For Hassabis var Google-erhvervelsen endnu et skridt i hans søgen efter AGI. Han tilbragte det meste af 2013 på at forhandle betingelserne for aftalen. DeepMind måtte operere separat fra sin ejer. Hun var nødt til at få fordelene ved at eje Google, såsom adgang til kontantstrøm og computerkraft, uden at miste kontrollen.
Hassabis troede, at DeepMind kunne være en hybrid, med en startmotor, hjernerne fra de største universiteter og dybe lommer fra et af verdens mest værdifulde virksomheder. Hver ingrediens var på plads for at fremskynde AGIs ankomst og fjerne årsagerne til menneskelig lidelse.
Hu fra Mr. Hassabis
Demis Hassabis blev født i Nord-London i 1976 til en græskcypriotisk og singaporisk-født kinesisk familie. Han var den ældste af tre søskende. Hans mor arbejdede i det britiske stormagasin John Lewis, og hans far drev en legetøjsbutik. Hassabis selv startede skak i en alder af fire år og så sin far og onkel lege. Om et par uger slog han allerede voksne. I en alder af 13 blev han verdens næstbedste skakspiller på sin alder. I en alder af otte lærte han at programmere på en simpel computer.
Hassabis modtog sin videregående uddannelse i 1992, to år forud for planen. Fik et job som videospilprogrammør hos Bullfrog Productions. Hassabis skrev Theme Park, hvor spillere opretter og administrerer en virtuel forlystelsespark. Spillet var en stor succes og solgte 15 millioner eksemplarer, hvilket skabte en hel genre af simuleringsspil, hvor målet ikke var at besejre fjenden, men at optimere funktionen af et enormt komplekst system, såsom en forretning eller en by.
Udover at skabe spil, spillede Demis dem godt. Som teenager løb han mellem etagerne i brætspilskonkurrencer, mens han konkurrerede i dueller med skak, scrabble, poker og backgammon. I 1995, mens han studerede datalogi på University of Cambridge, konkurrerede Hassabis i studentturneringen. Go er et gammelt strategisportspil, der er markant vanskeligere end skak. Mestring skal kræve intuition erhvervet gennem mange års erfaring. Ingen vidste, om Hassabis nogensinde havde spillet Go før.
Først vandt Hassabis begynderturneringen. Derefter besejrede han vinderen af de erfarne spillere, omend med et handicap. Charles Matthews, Cambridge go-mesteren, der var vært for turneringen, minder om chokket ved at blive ødelagt af en 19-årig rookie. Matthews tog Hassabis under sin vinge.
Hassabis 'intelligens og ambition har altid været tydelige i spil. Spil gendannede igen sin lidenskab for intelligens. Da han så sin udvikling i skak, spekulerede han på, om computere kunne programmeres til at lære på samme måde, som han gjorde ved at få erfaring. Spil tilbød et læringsmiljø, der ikke blev matchet af den virkelige verden. De var strenge og lukkede. Da spil er adskilt fra den virkelige verden, kan de øves uden indblanding og læres effektivt. Spil fremskynder tiden: spillere opretter et kriminalsyndikat om et par dage og kæmper på Somme i et par minutter.
I sommeren 1997 rejste Hassabis til Japan. I maj samme år slo IBMs Deep Blue-computer Garry Kasparov, verdenschampionøren. For første gang slog en computer en stormester. Kampen tiltrækkede verdensomspændende opmærksomhed og rejste bekymring for den voksende magt og den potentielle trussel ved computere. Da Hassabis mødte Masahiko Futszuvera, en japansk brætspilmester, talte han om planer, der ville kombinere hans interesser i strategispil og kunstig intelligens: en dag ville han udvikle et computerprogram til at besejre den største go-spiller.
Hassabis nærmede sig sin karriere metodisk.”I en alder af 20 år troede Hassabis, at visse ting måtte være på plads, før kunstig intelligens kunne nå det niveau, det havde brug for,” siger Matthews. "Han havde en plan."
I 1998 grundlagde han sit eget spilstudie kaldet Elixir. Hassabis fokuserede på et enormt ambitiøst spil, Republic: The Revolution, en kompleks politisk simulering. Et par år tidligere, mens han stadig var i skole, havde Hassabis fortalt sin ven Mustafa Suleiman, at verden havde brug for grandiose simuleringer for at kunne modellere dens komplekse dynamik og løse de mest komplekse sociale problemer. Nu prøvede han at gøre det i spillet.
Det var vanskeligere at kode hans forhåbninger end forventet. Elixir sluttede med at frigive en fratrædet version af spillet for at få varme anmeldelser. Andre spil er mislykkedes. I april 2005 lukkede Hassabis Elixir. Matthews mener, at Hassabis grundlagde virksomheden blot for at få ledelseserfaring. Hassabis manglede nu kun et vigtigt ekspertiseområde, før han kunne begynde sin søgen efter at finde AGI. Han måtte forstå den menneskelige hjerne.
I 2005 modtog Hassabis sin ph.d. i neurovidenskab fra University College London. Han udgav en meget indflydelsesrig undersøgelse af hukommelse og fantasi. En undersøgelse, der siden er blevet citeret over 1.000 gange, viste, at mennesker med hukommelsestab også har svært ved at forestille sig nye oplevelser, hvilket antyder en forbindelse mellem at huske og skabe mentale billeder. Hassabis byggede forståelsen af hjernen, der var nødvendig for at mestre AGI. Meget af hans arbejde kogte ned til et spørgsmål: Hvordan modtager og bevarer den menneskelige hjerne begreber og viden?
Hassabis etablerede formelt DeepMind den 15. november 2010. Virksomhedens mission erklæring var den samme, som det er nu: "løse intelligensen" og derefter bruge det til at løse alt andet. Som Hassabis fortalte Singularity-topmødet, betyder dette at oversætte vores forståelse af, hvordan hjernen udfører opgaver til software, der kan bruge de samme metoder til at undervise.
Hassabis hævder på ingen måde, at videnskaben har forstået det menneskelige sind fuldt ud. Planen for implementering af AGI var umulig at lære af hundreder af neurovidenskabelige undersøgelser. Men han mener helt klart, at det er meget muligt at begynde at arbejde på AGI på den måde, der appellerer til ham. Det er dog også muligt, at hans tillid trumfer virkeligheden. Vi ved stadig meget lidt med sikkerhed om, hvordan hjernen faktisk fungerer. I 2018 stillede et team af australske forskere spørgsmålstegn ved Hassabis 'egne fund. Naturligvis er dette kun et dokument, men det viser, at videnskaben bag DeepMinds arbejde langt fra er bevist.
Suleiman og Shane Legge, en AGI-besat New Zealand, som Hassabis også mødte på universitetet, sluttede sig som medstiftere. Virksomhedens omdømme voksede hurtigt. Hassabis blomstrede. "Det tiltrækker som en magnet," siger Ben Faulkner, tidligere Deep Mind-direktør. Mange rekrutter kommer fra Europa. Måske DeepMinds største præstation var aktivt at rekruttere talentfulde mennesker tidligt og bevare de lyseste og bedste af dem.
En af maskinlæringsteknikkerne, som virksomheden har fokuseret på, voksede ud af Hassabis's dobbelte lidenskab for spil og neurovidenskab: forstærkningslæring. Et sådant program er designet til at indsamle information om miljøet og derefter lære af det og gengive hans oplevelse igen og igen - ligesom Hassabis beskrev hjerneaktivitet under søvn i sit foredrag på Singularity Summit.
Forstærkningslæring starter med en ren skifer. Programmet vises et virtuelt miljø, som det intet kender til undtagen reglerne, såsom en skaksimulator eller et videospil. Programmet indeholder mindst en komponent kendt som et neuralt netværk. Det består af lag af computerstrukturer, der siler gennem information for at identificere specifikke funktioner eller strategier. Hvert lag udforsker miljøet på sit eget abstraktionsniveau. Først har disse netværk minimal succes, men deres fejl - og det er vigtigt - er også kodet i dem. Efterhånden bliver de smartere og smartere, eksperimenterer med forskellige strategier og modtager belønninger, hvis de lykkes. Hvis programmet flytter skakbrikken og som et resultat mister spillet, vil det ikke begå en sådan fejl igen. Meget af magien ved kunstig intelligens ligger i den hastighed, hvorpå den gentager disse opgaver.
DeepMinds arbejde nåede sit højdepunkt i 2016, da teamet udviklede et kunstigt intelligensprogram, der brugte forstærkningslæring sammen med andre metoder til at spille. Programmet, kaldet AlphaGo, hævede øjenbrynene efter at have slået verdensmesteren i en femkampkamp i Seoul i 2016. Sejren for maskinen, som blev set af 280 millioner mennesker, skete ti år tidligere, end maskinerne forudsagde. Året efter besejrede en forbedret version af AlphaGo den kinesiske Go-mester.
Ligesom Deep Blue i 1997 ændrede AlphaGo opfattelsen af menneskelig præstation. De menneskelige mestre, planetens strålende sind, stod ikke længere på toppen af den intellektuelle pyramide. Næsten 20 år efter at Hassabis annoncerede sine ambitioner for Fuzuvere, opfyldte han dem. Hassabis sagde, at denne kamp bragte ham til tårer. Han var taknemmelig overfor Matthews.
DeepBlue vandt takket være brute force og beregningshastighed, men AlphaGos stil føltes kunstnerisk, næsten menneskelig. Dens elegance og raffinement, computerkraftens overlegenhed, syntes at vise, at DeepMind var foran konkurrencen med at skabe et program, der kunne helbrede sygdomme og styre byer.
DeepMind og kunstig intelligens
Hassabis har altid sagt, at DeepMind vil ændre verden til det bedre. Men der er ingen sikkerhed ved AGI. Hvis han nogensinde dukker op, ved vi ikke, om det vil være til bedre eller værre, om han vil underkaste sig menneskelig kontrol. I bekræftende fald, hvem holder tøjlerne?
Fra begyndelsen forsøgte Hassabis at forsvare DeepMinds uafhængighed. Han insisterede altid på, at DeepMind blev i London. Da Google købte virksomheden i 2014, blev spørgsmålet om kontrol mere presserende. Hassabis havde ikke brug for at sælge DeepMind til Google. Med nok kontanter i hånden skitserede han en forretningsmodel, hvor virksomheden ville udvikle spil til finansiering af forskning. De lovede en masse penge hos Google, men han ønskede ikke at overføre det firma, han rejste. Som en del af aftalen oprettede DeepMind en aftale, der ville forhindre Google i at ensidig overtage kontrollen over virksomhedens intellektuelle ejendom. I året op til købet siger kilderne, at begge parter underskrev en aftale - etik- og sikkerhedsaftalen. Denne aftale blev udarbejdet af ledende advokater i London.
Aftalen overfører kontrol med den centrale AGI DeepMind-teknologi, hvis nogen, til etisk bestyrelse. Ifølge samme kilde er Etikrådet på ingen måde en kosmetisk indrømmelse fra Google, men giver DeepMind solid juridisk støtte til at opretholde kontrollen med sin mest værdifulde og potentielt farligste teknologi. Navnene på kommissærerne er ikke blevet frigivet, men en anden kilde tæt på både DeepMind og Google sagde, at alle tre af DeepMinds grundlæggere er i bestyrelsen. Virksomheden selv afslører ikke noget.
Hassabis kan bestemme DeepMinds skæbne på andre måder. En af dem er hengivenhed. Medarbejdere, tidligere og nuværende, siger, at Hassabis 'forskningsprogram er en af DeepMinds største styrker. Hans program, der tilbyder spændende og vigtigt arbejde uden pres fra akademia, har tiltrukket hundredvis af verdens mest talentfulde eksperter. DeepMind har datterselskaber i Paris og Albert. Mange medarbejdere føler sig mere forbundet med Hassabis og dens mission end med sin virksomhedsforælder, der kun ønsker indkomst. Så længe Hassabis opretholder personlig loyalitet, har han betydelig magt over sin eneste aktionær. Bedre at lade talentet arbejde for DeepMind eksternt end at ende på Facebook eller Apple.
DeepMind har en anden kilde til gearing, selvom det kræver konstant påfyldning: lykkebringende glorie. Virksomheden har fået dette. AlphaGo var en fantastisk reklame. Siden Google-overtagelsen har virksomheden gentagne gange produceret mirakler, der har tiltrukket verdensomspændende opmærksomhed. Et eksempel på software kan registrere øjescanningsmønstre, der er indikatorer for makuladegeneration. Et andet program lærte at spille skak fra bunden af ved hjælp af en arkitektur, der ligner AlphaGo, og blev den største spiller gennem tidene efter kun ni timers spil med sig selv. I december 2018 viste AlphaFold sig at være mere nøjagtigt end konkurrenter til at forudsige den tredimensionelle struktur af proteiner fra en liste over forbindelser, der potentielt kunne behandle sygdomme som Parkinsons og Alzheimers.
DeepMind er især stolt af de algoritmer, den har udviklet, der beregner de mest effektive køleløsninger til Googles datacentre, som indeholder cirka 2,5 millioner computerserver. I 2016 sagde DeepMind, at det havde skåret Googles elregning med 40%. Men nogle insidere siger, at denne prale er overdrevet. Google har brugt algoritmer til at optimere sine datacentre længe før DeepMind fulgte med. Det menes, at DeepMind overdriver sine fordele for at få værdi i alfabetets øjne. Googles moderselskab Alphabet betaler DeepMind for lignende tjenester. I 2017 udstedte sidstnævnte en faktura til Alphabet for 54 millioner pund. Disse tal lyser i sammenligning med DeepMinds overhead. Samme år brugte hun 200 millioner pund på personale. Generelt,i 2017 mistede DeepMind 282 millioner pund.
Det er en krone for en velhavende kæmpe. Men andre Alphabet-datterselskaber fik Ruth Porat, alfabetets snåle CFO, opmærksomhed. Google Fiber, et forsøg på at bygge en internetudbyder, blev sat på vent, efter det blev klart, at det ville tage årtier at investere. AI-forskere spekulerer også på, om DeepMind vil blive skruet op.
Den gradvise afsløring af DeepMinds fremskridt i AI er del af en strategi, der gradvist bygger virksomhedens omdømme. Dette er især værdifuldt på et tidspunkt, hvor Google beskyldes for at krænke brugerens privatliv og sprede falske nyheder. DeepMind er også heldig nok med at have en tilhænger på højeste niveau: Larry Page, en af de to grundlæggere af Google, nu CEO for Alphabet. Paige er meget tæt på Hassabis. Pagts far, Karl, studerede neurale netværk i 1960'erne. Tidligt i sin karriere sagde Page, at han oprettede Google udelukkende for at oprette et AI-firma.
DeepMinds tæt kontrol med pressen er ikke i tråd med den akademiske ånd, der gennemsyrer virksomheden. Nogle lærde klager over, at det er vanskeligt for dem at offentliggøre deres arbejde: De skal overvinde lag af intern godkendelse, før de endda kan forelægge et papir til en konference eller et tidsskrift. DeepMind mener, at det er nødvendigt at gå videre med forsigtighed for ikke at skræmme offentligheden med udsigterne til AGI. Men overdrevent hårde beskyldninger kan ødelægge den akademiske atmosfære og svække medarbejdernes loyalitet.
Fem år efter Google-erhvervelsen bliver spørgsmålet om, hvem der kontrollerer DeepMind, kritisk. Grundlæggerne og de tidlige ansatte i virksomheden nærmer sig tærsklen, når de kan gå væk med den økonomiske kompensation, de har modtaget ved køb af virksomheden (Hassabis-aktier er sandsynligvis værd omkring 100 millioner pund). Men en kilde tæt på virksomheden antyder, at Alphabet har skubbet betalinger tilbage til stifterne i flere år. I betragtning af hans nådeløse fokus er det usandsynligt, at Hassabis hopper ud af skibet. Han er kun interesseret i penge, i det omfang det hjælper ham med at nærme sig målet for hele sit liv. Men nogle af mine kolleger rejste. Tre AI-ingeniører har forladt virksomheden siden begyndelsen af 2019. Ben Laurie, en af verdens mest fremtrædende sikkerhedsingeniører, er tilbage hos Google. Dette er bestemt ikke megetMen DeepMind tilbyder en så fantastisk mission og anstændig løn, som ingen skal forlade.
Indtil videre har Google ikke virkelig generet DeepMind. Men en nylig udvikling har givet anledning til bekymring for, hvor længe virksomheden vil kunne opretholde sin uafhængighed.
DeepMind, medicin og kunstig intelligens
DeepMind har altid planlagt at bruge AI til at forbedre sundhedsvæsenet. I februar 2016 blev der oprettet en ny afdeling af DeepMind Health, ledet af Mustafa Suleiman, en af virksomhedens medstiftere. Suleiman, hvis mor var sygeplejerske, håbede at oprette et program kaldet Streams, der ville advare lægerne, når en patients sundhed forværredes. DeepMind ville blive belønnet baseret på metrics. Da dette arbejde krævede adgang til fortrolig patientinformation, oprettede Suleiman et Independent Review Panel (IRP), der rekrutterede gode engelske sundheds- og teknologipersonale. DeepMind var klog nok til at være forsigtig. Efterfølgende opdagede den britiske informationskommissær, at en af hospitalets partnere havde overtrådt loven i behandlingen af patientoplysninger. Ved udgangen af 2017 havde Suleiman imidlertid underskrevet aftaler med fire større hospitaler.
Den 8. november 2018 annoncerede Google oprettelsen af sin egen sundhedsafdeling - Google Health. Fem dage senere blev det annonceret, at DeepMind Health skulle tilslutte sig moderselskabets indsats. DeepMind er ikke blevet advaret. Ifølge oplysninger hentet fra FOI-anmodninger, underrettede hun kun partnerhospitaler om ændringen tre dage i forvejen. DeepMind afslog at afsløre, da diskussioner om fusionen begyndte, men sagde, at den korte tid mellem varsel og offentlig meddelelse var i interesse for gennemsigtighed. I 2016 skrev Suleiman, at "patientdata aldrig vil blive tilknyttet Google-konti, produkter eller tjenester." Hans løfte syntes at være blevet brudt.
Googles anneksation gjorde DeepMind Health-medarbejdere vred. Flere medarbejdere planlægger at forlade virksomheden, når overtagelsesprocessen er afsluttet, ifølge mennesker tæt på sundhedsholdet.
Denne episode viser, at perifere dele af DeepMinds arbejde er sårbare over for Google. DeepMind sagde, at "vi var alle enige om, at det er fornuftigt at kombinere denne indsats i en samarbejdsindsats med øgede ressourcer." Dette rejser spørgsmålet om, hvorvidt Google vil anvende den samme logik til DeepMinds arbejde med AGI.
I stor skala har DeepMind gjort store fremskridt. Hun har allerede oprettet software, der kan lære at udføre opgaver på et overmenneskeligt niveau. Hassabis refererer ofte til Breakout, et videospil til Atari-konsollen. Spilleren styrer et flagermus, der kan bevæge sig vandret og med sin hjælp spræde kuglerne og dirigere dem i blokke ovenfor, som ødelægges ved kollision. Spilleren vinder, når alle blokke ødelægges. Taber, hvis bolden falder forbi platformen. Uden menneskelig instruktion lærte DeepMind ikke kun at spille spillet, men også at kaste bolde ud i rummet bag blokke for at drage fordel af studs. Dette demonstrerer styrken af forstærkende læring og de overnaturlige kræfter i DeepMinds computerprogrammer.
Demonstrationen er bestemt imponerende. Men Hassabis er tavse om noget. Hvis den virtuelle platform hæves endnu lidt højere, vil programmet lave en fejl. Dygtigheden, som DeepMind har tilegnet sig, er så begrænset, at den ikke kan reagere på endda små ændringer i miljøet, som et menneske let kunne overvinde. Men der er mange subtiliteter i verden. Til diagnostisk intelligens er der ikke to kropsorganer. For mekanisk intelligens vil to lignende motorer aldrig være ens i tuning. Derfor er det vanskeligt at frigive programmer i naturen.
Det andet, som DeepMind sjældent taler om, er, at succes i virtuelle miljøer afhænger af at have en belønningsfunktion: et signal, der giver software mulighed for at måle dens fremskridt. Programmet lærer, at det at sprænge bagvæggen øger sin score. Meget af DeepMinds arbejde med AlphaGo har været at skabe en belønningsfunktion, der er kompatibel med et så komplekst spil. Desværre tilbyder den virkelige verden ikke enkle belønninger. Fremskridt måles sjældent i individuelle point. Den menneskelige hjerne modtager et signal om succesens opgave lige i processen med dens implementering, ikke efter.
DeepMind har fundet ud af en måde at omgå dette ved at bruge enorme mængder af processorkraft. AlphaGo har spillet spil i tusinder af år med menneskelig tid til at lære noget. Mange AI-filosoffer mistænker denne løsning er uacceptabel for opgaver, der tilbyder svagere belønninger. DeepMind anerkender sådanne uklarheder. Hun startede for nylig StarCraft 2, et computerstrategispil. Beslutninger truffet i begyndelsen af spillet får konsekvenser, der vises senere, hvilket er ret karakteristisk for den krænkelige og forsinkede feedback af reelle problemer. I januar slog DeepMinds software nogle af de bedste spillere i verden, og det var ret imponerende på trods af stramme restriktioner. Programmerne er også begyndt at undersøge belønningsfunktioner ved at følge folks feedback. Men at inkludere menneskelige instruktioner i en løkke skaber risikoen for at miste skala og hastighed.
Både nuværende og tidligere forskere hos DeepMind og Google har på betingelse af anonymitet udtrykt skepsis over, at DeepMind vil være i stand til at opnå AGI ved hjælp af sådanne metoder. For dem gør ønsket om at opnå høj ydeevne i simulerede miljøer det vanskeligt at løse problemet med belønningsfunktionen. Alligevel er netop denne tilgang kernen i DeepMind. Der er intern konkurrence i en virksomhed, hvor programmer fra konkurrerende hold konkurrerer om overherredømme.
Hassabis har altid set livet som et spil. Meget af hans karriere er blevet brugt til at fremstille dem, det meste af hans fritid blev brugt på at spille dem. Hos DeepMind bruger han dem til at udvikle kraftig kunstig intelligens. Ligesom sin software lærer Hassabis af sin egen erfaring. Udøvelsen af AGI kan i sidste ende føre til en blindgyde, opfinde nyttig medicinsk teknologi undervejs og overvinde de bedste spillere inden for deres færdigheder. Men det kan også oprette AGI lige under Googles næse, men uden for dens kontrol. Og hvis han formår at gøre det, vinder Demis Hassabis det vanskeligste spil af alle.
Ilya Khel