Forfatteren er bekymret over robotters voksende rolle i krigføring. Siden 1991, siden Golfkrigen, har de hjulpet generalerne. Og nu er der oprettet en "killer robot" - en maskine, der uafhængigt træffer en beslutning om at ødelægge fjender, hvis dette er i overensstemmelse med den generelle politik for "kontrolcentret".
Kunstig intelligensudvikler DeepMind har annonceret en nyhed - en bot kaldet AlphaStar, som vil spille den populære online-strategi Starcraft-2 på stormesterniveau.
Dette er ikke første gang, en bot slår folk i et strategisk krigsspil. I 1981 vandt et program kaldet Eurisko, udviklet af en af pionererne inden for kunstig intelligens, Doug Lenat, US Travellers Championship, et meget komplekst strategisk krigsspil, hvor spilleren skal færdiggøre sin flåde og bekæmpe fjendens flåde. Eurisko blev til sidst tildelt titlen æresadmiral rejsende. I 1982 blev turneringsreglerne ændret i et forsøg på at forhindre computeren. Men Eurisko vandt alle i to år i træk. Efter sponsorer lovede at aflyse turneringen, hvis computeren vinder igen, trak Lenat sig tilbage.
DeepMind PR vil gerne have dig til at tro, at StarCraft "fremkom ved konsensus som den næste store udfordring (i pc-spil)" og "har været en udfordring for AI-udviklere i over 15 år."
I det sidste Starcraft Championship blev der kun indsendt 4 ansøgninger fra akademiske eller industrielle forskningslaboratorier. De andre ni bots blev skrevet alene af enkeltpersoner og ikke som en del af mainstream-forskningen i kunstig intelligens (AI).
Faktisk er antallet af forfattere (42) af DeepMind-artiklen, der blev offentliggjort 31. oktober i Nature, langt større end antallet af mennesker, der arbejder på Starcraft-bots i resten af verden. Jeg vil ikke overskygge succes med dette ingeniørsamarbejde, men hvis du investerer nok ressourcer i at løse problemet, er succes garanteret.
I modsætning til de seneste sejre inden for computerskak, er AlphaStar ikke blevet trænet ved at spille mod sig selv. Han lærte dette ved at efterligne de bedste episoder fra næsten en million spil spillet af de allerbedste menneskelige spillere. Før dette led AlphaStar et ubestrideligt nederlag i 19 ud af 20 kampe og spillede med rigtige mennesker på StarCraft-spilserveren. AlphaStar spillede anonymt for at forhindre folk i at udnytte svagheder, der måtte være fundet i tidligere spil.
Sidste december besejrede AlphaStar en af verdens bedste professionelle spillere - Grzegorz MaNa Komincz. Men det var en version af AlphaStar med reflekser, der var væsentligt hurtigere end menneskelige, og også med ubegrænset syn på spillefeltet (i modsætning til menneskelige spillere, der kun ser en del af det ad gangen). Det kan næppe kaldes lige vilkår.
Salgsfremmende video:
StarCraft har dog nogle funktioner, der gør AlphaStar til en imponerende udvikling, hvis ikke et rigtig gennembrud. I modsætning til skak eller det østlige go-go (et strategispil, der bruger et 361-felt bord - red.), Har StarCraft-spillere en ufuldkommen forståelse af forholdene i spillet, men antallet af mulige handlinger deri er meget større. Og StarCraft-kamp sker i realtid, men kræver langsigtet planlægning.
Robot Wars
Spørgsmålet opstår - vil vi i fremtiden se, hvordan robotter ikke kun deltager i krige, men også planlægger dem? Faktisk sker begge allerede.
På trods af mange advarsler fra kunstige intelligensforskere (som mig selv), grundlæggere af robotfirmaer, nobelprisvindere og kirkeledere, er et fuldt autonomt våben, der er kendt som en "killer robot", allerede skabt og vil snart blive brugt.
I 2020 vil Tyrkiet indsætte kamikaze-droner på grænsen til Syrien. Disse droner bruger computervision til at identificere, spore og dræbe mennesker uden menneskelig indblanding.
Dette er en frygtelig udvikling. Computere har ingen moralsk kapacitet til at tage en moralsk afbalanceret beslutning om, hvem der bor, og hvem der dør. De mangler empati eller medfølelse. Killer robotter vil ændre konfliktens natur til det værre.
Hvad med "robotgeneraler"? Computere har hjulpet generaler med at planlægge krig i årtier. Tilbage i de tidlige 1990'ere, under Operation Desert Storm under Golfkrigen, blev værktøjer til kunstig intelligens (AI) brugt til at planlægge en opbygning i Mellemøsten inden konflikten. En amerikansk general fortalte mig kort derefter, at det sparede penge var lig med summen af alt, hvad der var blevet brugt på AI-udvikling før.
Generaler bruger også computere til at udvikle multivariate militære strategier, som pludselig kan være nødvendige. Men vi overlader ikke alle beslutninger på slagmarken i hænderne på en soldat, derfor skifter alt ansvar fra generalens hjerne til computerprocessoren for langt.
Maskinen kan ikke holdes ansvarlig for sine beslutninger. Kun mennesker er ansvarlige. Og dette er hjørnestenen i international humanitær lov. Imidlertid vil generaler i stigende grad stole på computerstøtte i deres beslutninger om at bryde igennem tågen i krig og håndtere den store mængde information, der kommer fra fronten.
Hvis dette resulterer i færre civile tab, mindre venlig brand og større respekt for international humanitær lov, bør vi byde sådan computerhjælp velkommen. Men den endelige beslutning skal træffes af mennesket, ikke af maskinen.
Her er et sidste spørgsmål at overveje. Hvis tech-virksomheder som Google virkelig ikke ønsker, at vi skal frygte et maskineopstand, hvorfor bygger de bots for at vinde virtuelle krige i stedet for at fokusere på noget mere fredeligt som fredelige elektroniske spil? Med al respekt for sportsfans må vi indrømme, at indsatsen på ikke-krigsspil kommer langt lavere.
Toby Walsh er professor i kunstig intelligens ved University of New South Wales og Data61-forskningssamfundet.