Tidligere på året underskrev 116 teknologiske armaturer et åbent brev, der opfordrede FN til at forbyde "dødelige autonome våbensystemer." De mener, at sådan kan føre til væbnede konflikter af hidtil uset omfang. The Independent bemærkede, at "for første gang har AI-eksperter og robotikvirksomheder taget en fælles beslutning om dette emne."
Men ikke alle observatører er så bekymrede. Andrew Ng, der indtil for nylig arbejdede som chefforsker i Baidu, er kommet til den konklusion, at det at bekymre sig om dræberrobotter er som at bekymre sig om overbelægning på Mars, og vi får nok tid til at indse dette.
I de tidlige år af det 21. århundrede, få emner genereret mere interesse eller debat mere kraftigt end kunstig intelligens, der starter selv med selve forståelsen af udtrykket. I marts bemærkede en observatør, at "der er omtrent lige så mange definitioner af AI, som der er forskere, der udvikler denne teknologi." Robbie Whiting, grundlægger af konsulentfirmaet Junior, hævder, at "AI ikke kun er et buzzword - det vil ændre verden."
Mens der findes overdrivelse, genopbygger AI allerede hele industrier som transport, økonomi og sundhedspleje. Facebooks CTO mener, at AI "kan løse problemer i en planeten bred skala." Elon Musk hævder i mellemtiden, at "AI udgør en grundlæggende risiko for eksistensen af menneskelig civilisation." De fleste teknologier er hverken nyttige eller skadelige - hvad der betyder noget er, hvem der bruger dem, og hvorfor.
Få er uenige i, at AI udvikler sig meget hurtigere, end vi prøver at forstå dens komplekse natur, flere aspekter og vidtrækkende konsekvenser for den nationale sikkerhed. I en nylig rapport fra Gregory Allen og Thaniel Chan, kandidatstuderende ved Harvard University, opfordres regeringen til at oprette noget som et RAND-selskab til AI.
RAND-forskere abonnerer til gengæld på Harvard-holdets ord.
De foreslår at overveje fire områder, hvor virkningen af AI kan være betydelig, men usikker.
Salgsfremmende video:
Arbejdspladser
Kai Fu Lee, formand for SinovationVentures, mener, at AI er "rettet mod store jobnedskæringer", mens den koncentrerer velstand i hænderne på virksomheder, der udvikler eller vedtager AI. Andre mener, at lignende frygt var til stede med fremkomsten af alle verdensændrende teknologier helt ned til trykpressen i det 15. århundrede.
The Economist overbeviser læserne om, at "AI skaber efterspørgsel efter job", og et stigende antal mennesker over hele verden "leverer digitale tjenester på Internettet." Hvilke virksomheder og lande vil trives i AI-æraen? Hvilke segmenter forsvinder, ændres, oprettes? Hvordan vil arbejdets art ændre sig?
Krigsførelse
Tilhængere af kampdroner hævder, at sådanne våben kan ramme mål med meget højere nøjagtighed end mennesker; og jo større rolle de spiller i krigsteatret, jo mindre ofte vil teknikerne bruge dem til at skade.
Men hvad hvis et sådant våben bliver uafhængigt og fungerer uafhængigt uden menneskelig indblanding? Vil fjernelse af folk fra listen over militærpersonale føre til et endnu mere alvorligt og ustoppeligt våbenkapløb?
Et åbent brev, der blev offentliggjort under den internationale samarbejdskonference om kunstig intelligens i 2015, advarede om, at autonome våben "ikke kræver dyre eller svære at finde råmaterialer, så de bliver allestedsnærværende og billige for alle vigtige militære styrker til masseproduktion." Vil æraen med automatiserede våben være mere fredelig eller mere krigsførende?
RAND-forskere opfordrer til en analytisk ramme og international indsats for brugen af langtrækkende kampdroner til bekæmpelse af terrorisme og målrettede mord.
Tage beslutninger
Politikere bliver konstant konfronteret med et utal af valg og motiver - der er mange flere på de sociale mediedage end for tyve år siden. Sådan overbelastning af oplysninger tillader ikke håndtering af situationen under en krise, endsige flere kriser.
For nylig var der et forslag om at føre "alle beslutninger truffet af præsidenten via computeren - ikke for at træffe det endelige valg, men om at hjælpe lederen i en persons person."
Men mens AI for det meste er syndfri nu, fremhæver RAND-forskning risikoen for algoritmisk bias ved filtrering af nyheder, påvirkning af strafferet og endda tilvejebringelse af sociale sikringsfordele og udstedelse af visa. Hvilke beslutninger skal der tages over for AI? Hvad skal forblive i hænderne på en person? I hænderne på et team af mennesker?
Skabelse
Verden er vant til AI, der kan udføre spændende beregninger og slå mennesker i populære brætspil (lidt over 20 år er gået siden IBMDeepBlue-supercomputeren berømte besejrede skakstormester Garry Kasparov). Hvordan vil han fortsætte med at udvikle sig i menneskers kreative rum?
Forsker af kunstig intelligens Jesse Engel mener, at han vil "transformere den kreative proces … med smarte værktøjer, der giver nye måder at udtrykke." Andre er ikke så optimistiske. Journalisten Adrienne Lafrance bemærker, at AI allerede kan "flirte", "skrive romaner" og "falske berømte malerier med forbløffende nøjagtighed." Hvad betyder det at være kreativ? Desuden hvad betyder det at være menneske?
AI-diskussioner går ofte til ekstremer, hvad enten det er løftet om en utopi, der er fri for menneskelig lidelse, eller farerne ved en dystopi, hvor robotter slaver deres menneskelige skabere. En mere afbalanceret og streng analyse er nødvendig for at hjælpe med at forme politikker for at mindske risici og maksimere fordele. Visse skridt skal tages for at overvinde frygt for, at AI vil arbejde for staten og samfundet.
Hvordan kan AI påvirke et lands nationale interesser? Hvilke typer AI, hvis nogen, kan betragtes som strategiske teknologier baseret på statslige kriterier? Hvor skal markedskræfterne spille, og hvor er politik? Mens AI fortsat stort set er et science fiction-domæne, får disse spørgsmål mere og mere betydning.
Ilya Khel