Frygten for kunstig intelligens er længe blevet indgroet i populærkulturen. De fineste sind for menneskeheden, fra Stephen Hawking til Elon Musk, har talt om den digitale sinds eksistentielle trussel mod menneskeheden.
Professor ved University of California ved Berkeley Stuart Russell taler også om hende, men i hans vision for fremtiden er der ingen onde robotter, der oprør mod menneskelig dominans.
Ifølge Russell på et tidspunkt vil maskinerne simpelthen blive så effektive, at de ødelægger os og udfører de opgaver, som vi gav dem.
Russell er en maskinlæringsekspert og forfatter af Human Compatible: AI and the Problem of Control.
"Den traditionelle Hollywood-historie er, at maskiner spontant bliver bevidste og derefter beslutter at de hader mennesker og vil dræbe alle," bemærker professor Russell.
Men dette er efter hans mening en forkert vision om robo-apokalypsen, fordi maskiner ikke har menneskelige følelser.
”Vi er nødt til at bekymre os ikke om selvbevidstheden om onde maskiner, men om kompetensen hos de maskiner, der udfører de opgaver, vi har sat,” er videnskabsmanden overbevist.
Salgsfremmende video:
For kompetent
I et interview med BBC Today beskrev professor Russell en hypotetisk situation, hvor menneskers eksistens kunne blive truet af kunstig intelligens.
Forestil dig, at der er en supermægtig kunstig intelligens, der kan kontrollere klimaet på planeten. Han har til opgave at bringe kuldioxidniveauer i atmosfæren tilbage til det førindustrielle niveau.
”Systemet vil overveje, at den mest effektive måde at gøre dette på er at ødelægge mennesker. De producerer kuldioxid,”siger professoren.
”Dette kan omgås f.eks. Ved at gøre hende til en betingelse for ikke at slippe af med mennesker. Hvad gør systemet så? Hun vil sørge for, at færre og færre børn bliver født, indtil folk helt forsvinder."
Dette er et eksempel på, hvad kunstig intelligens kan føre til under dårligt forestillede menneskelige instruktioner.
superintelligens
AI-systemer, der findes i dag, har snævert målrettede applikationer. De er designet til at løse klart definerede problemer på et område, siger forskere ved Center for Undersøgelse af Eksisterende Risici ved Cambridge University.
Det sejrende øjeblik for denne AI-filosofi var Deep Blue-computerens sejr over den regerende verdensskakmester Garry Kasparov i 1997.
* Deep Blue's sejr over Kasparov i 1997 var en AI-triumf.
Men Deep Blue blev skabt udelukkende til skakspil. I brikker ville han have tabt til en femteklassing.
De seneste fremskridt inden for kunstig intelligens har bragt os meget forskellige programmer.
F.eks. Lærte AlphaGo Zero-programmet at spille Go på egen hånd uden at bruge data om tidligere spil, som folk spillede, og på bare tre dage efter at have spillet med sig selv nåede det et niveau, der ikke kunne opnås for en almindelig person.
Dyb indlæringsalgoritmer blev brugt til at oprette AlphaGo Zero. Dette betyder, at der var behov for relativt lidt menneskeligt arbejde for at udvikle programmet.
Samtidig ved AlphaGo Zero, hvordan man spiller godt både skak og shogi.
Husk, at programmet er fuldstændig selvlæring. Dette kan give anledning til bekymring for nogle.
”Efterhånden som AI bliver mere magtfuld og alsidig, er der en risiko for, at det bliver superintelligent, det vil sige, at det vil overgå mennesker på mange eller alle områder,” siger Center for Undersøgelse af Eksisterende Risici.
Vi ved ikke, hvad vi vil
Professor Russell mener, at det at give AI meget specifikke opgaver ikke er en udvej, fordi mennesker selv ikke er i stand til at formulere dem godt nok.
”Vi er ikke klar over, at vi ikke kan lide noget, før det sker,” siger han.
”Vi er nødt til at ændre den helt basale tilgang til oprettelse af AI-systemer,” tilføjer professoren. Han mener, at det er grundlæggende forkert at give robotter en opgave, som de derefter udfører.
”Systemet skal forstå, at målet ikke er klart for det. han siger. - Når sådanne systemer oprettes, afhænger de virkelig af personen. De begynder at bede om tilladelse, før de gør noget, fordi de ikke er sikre på, om du vil."
Det vigtigste er, siger professoren, at de ikke vil modstå, hvis du beslutter at slå dem fra, fordi de er designet til ikke at gøre, hvad du ikke kan lide.
Aladdins lampe
AI i dag oprettes som om det var genie fra en lampe, siger professor Russell. Du gnider lampen og siger, "Jeg vil have, at det skal ske."
I Stanley Kubricks 2001 * A Space Odyssey * revolterer en superintelligent computer mod mennesker, der beslutter at lukke den.
Og hvis kunstig intelligens er kraftig nok, vil den gøre nøjagtigt, hvad du beder om.
"Problemet med gin er, at det tredje ønske altid er at annullere de to første, fordi personen har formuleret dem forkert."
”En maskine, der forfølger det forkerte mål, bliver de facto menneskehedens fjende, og denne fjende er meget stærkere end os,” konkluderer forskeren.