Som AI-forsker bliver jeg ofte konfronteret med den opfattelse, at mange mennesker er bange for AI og hvad det kan blive. Faktisk er det ikke overraskende, hvis man ser ud fra menneskets historie, mens man er opmærksom på, hvad underholdningsindustrien fodrer os, at folk kan være bange for et cybernetisk opstand, der vil tvinge os til at leve i isolerede territorier og forvandle andre til en "matrix-lignende" slags menneskelige batterier …
Og alligevel, for mig, når jeg ser på alle disse evolutionære computermodeller, som jeg bruger i AI-udvikling, er det vanskeligt at tænke, at mine uskadelige, rene som babyens tårer, skabninger på min computerskærm en dag kan blive monstre til en futuristisk dystopi. Kan jeg virkelig kaldes en”verdens ødelæggende”, som Oppenheimer engang beklagede og sagde om sig selv, efter at han førte programmet til at oprette en atombombe?
Måske ville jeg acceptere sådan berømmelse, eller måske er kritikerne af mit arbejde trods alt? Måske skulle jeg virkelig stoppe med at undgå spørgsmål om, hvilken frygt jeg har for AI som AI-ekspert?
Frygt for uforudsigelighed
HAL 9000, science fiction-forfatteren Arthur Charles Clarkes drøm og bragt til live af filmskaberen Stanley Kubrick i 2001 A Space Odyssey, er et fremragende eksempel på et system, der styrtede ned på grund af uforudsete omstændigheder.
I mange komplekse systemer - Titanic, NASA-rumfærgen og Chernobyl-kernekraftværket - måtte ingeniører kombinere mange komponenter. Måske var arkitekterne for disse systemer godt opmærksomme på, hvordan hvert af dens elementer arbejdede individuelt, men de forstod ikke godt nok, hvordan alle disse komponenter ville arbejde sammen.
Salgsfremmende video:
Resultatet var systemer, som aldrig blev forstået fuldt ud af deres egne skabere, hvilket førte til velkendte konsekvenser. I begge tilfælde sænk skibet, to pendler eksploderede, og næsten hele Europa og dele af Asien blev konfronteret med problemet med radioaktiv forurening - et sæt af relativt mindre problemer, men tilfældigt forekommende på samme tid skabte en katastrofal virkning.
Jeg kan perfekt forestille mig, hvordan vi, skabere af AI, kan nå frem til lignende resultater. Vi tager den seneste udvikling og forskning inden for kognitiv videnskab (videnskaben om tænkning - red.), Oversætter dem til computeralgoritmer og tilføjer alt dette til eksisterende systemer. Vi prøver at udvikle AI uden fuldt ud at forstå vores egen intelligens og bevidsthed.
Systemer som IBM's Watson eller Googles Alpha er kunstige neurale netværk med imponerende computerkraft og evnen til at tackle virkelig komplekse opgaver. Men indtil videre er den eneste ting, som en fejl i deres arbejde fører til, resultatet af et tab i det intellektuelle spil "Jeopardy!" eller en glip af muligheden for at besejre endnu et verdens bedste logiske brætspil Go.
Disse konsekvenser er ikke globale. Faktisk er det værste, der kan ske med mennesker i dette tilfælde, at nogen mister noget penge i indsatserne.
AI-arkitektur bliver dog mere kompleks, og computerprocesser bliver hurtigere. AI-kapaciteter øges kun med tiden. Og allerede dette vil føre os til det faktum, at vi vil begynde at tildele mere og mere ansvar til AI, selv på trods af de stigende risici for uforudsete omstændigheder.
Vi er klar over, at "fejl er en del af den menneskelige natur", derfor vil det simpelthen være fysisk umuligt for os at skabe et virkelig sikkert system i alt.
Frygt for misbrug
Jeg er ikke rigtig bekymret for uforudsigeligheden af konsekvenserne i AI's arbejde, som jeg udvikler ved hjælp af den såkaldte neuroevolution-tilgang. Jeg skaber virtuelle miljøer og udfylder dem med digitale skabninger og giver deres hjerner kommandoer for at løse problemer med stigende kompleksitet.
Over tid øges og udvikles effektiviteten af at løse problemer fra disse skabninger. De, der gør det bedste job, er valgt til reproduktion og skaber en ny generation på deres basis. Gennem generationer udvikler disse digitale skabninger kognitive evner.
For eksempel, lige nu tager vi de første skridt i at udvikle maskiner til niveauet med at udføre enkle navigationsopgaver, tage enkle beslutninger eller huske et par informationsbits. Men snart ser vi udviklingen af maskiner, der kan udføre mere komplekse opgaver og have et meget mere effektivt overordnet intelligensniveau. Vores ultimative mål er at skabe intelligens på menneskeligt niveau.
I løbet af denne udvikling vil vi forsøge at finde og rette alle fejl og problemer. For hver nye generation vil maskinerne være bedre til at klare fejl end de foregående. Dette vil øge chancerne for, at vi er i stand til at identificere alle uforudsigelige konsekvenser ved simuleringer og eliminere dem, før de kan realiseres i den virkelige verden.
En anden mulighed, som den evolutionære udviklingsmetode giver, er at give kunstig intelligens etik. Det er sandsynligt, at sådanne etiske og moralske egenskaber ved en person som pålidelighed og altruisme er resultatet af vores udvikling og en faktor i dens fortsættelse.
Vi kan skabe et bygget miljø og styrke maskiner til at demonstrere venlighed, ærlighed og empati. Dette kan være en måde at sikre os, at vi udvikler mere lydige tjenere end hensynsløse mordrobotter. Selvom neuroevolution kan reducere niveauet af utilsigtede konsekvenser i AI-adfærd, kan det imidlertid ikke forhindre misbrug af kunstig intelligens.
Som videnskabsmand skal jeg leve op til mit engagement i sandheden og rapportere, hvad jeg opdagede gennem mine eksperimenter, uanset om jeg kan lide resultaterne eller ej. Mit job er ikke at bestemme, hvad jeg kan lide, og hvad jeg ikke gør. Den eneste vigtige ting er, at jeg kan offentliggøre mit arbejde.
Frygt for forkerte sociale prioriteringer
At være videnskabsmand betyder ikke at miste din menneskelighed. Jeg er nødt til at genoprette forbindelse med mine håb og frygt på et eller andet niveau. Som et moralsk og politisk motiveret individ skal jeg overveje de potentielle konsekvenser af mit arbejde og dets mulige effekt på samfundet.
Som videnskabsmænd og som repræsentanter for samfundet er vi stadig ikke kommet til en klar idé om, hvad vi nøjagtigt ønsker at få fra AI, og hvad det i sidste ende skulle blive. Dette skyldes naturligvis delvis det faktum, at vi stadig ikke fuldt ud forstår dets potentiale. Men alligevel er vi nødt til klart at forstå og beslutte, hvad vi ønsker at få fra virkelig avanceret kunstig intelligens.
Et af de største områder, som folk er opmærksomme på, når de taler om AI, er beskæftigelse. Robotter udfører allerede komplekst fysisk arbejde for os, som at samle og svejse bildele af karosserier. Men en dag kommer dagen, hvor robotter får til opgave at udføre kognitive opgaver, det vil sige at de får til opgave det, der tidligere blev betragtet som en udelukkende unik evne for personen selv. Selvkørende biler kan erstatte taxachauffører; selvkørende fly behøver ikke piloter.
I stedet for at modtage lægehjælp i akutte rum fyldt med altid træt personale og læger, vil patienter være i stand til at gennemføre undersøgelser og lære diagnoser ved hjælp af ekspertsystemer med øjeblikkelig adgang til al medicinsk viden. Kirurgiske operationer udføres af robotter, der ikke er modtagelige for træthed, med en perfekt "trænet hånd".
Juridisk rådgivning vil være tilgængelig fra en omfattende juridisk ramme. For investeringsrådgivning henvender vi os til ekspertmarkedsvarselsystemer. Måske en dag vil alt menneskeligt arbejde blive udført med maskiner. Selv mit arbejde kan udføres hurtigere ved at bruge et stort antal maskiner ubarmhjertigt undersøge, hvordan man gør maskiner endnu smartere.
I realiteterne i vores nuværende samfund tvinger automatisering allerede folk til at forlade deres job, hvilket gør de rige ejere af sådanne automatiserede maskiner endnu rigere og resten endnu fattigere. Men dette er ikke et videnskabeligt problem. Dette er et politisk og socioøkonomisk problem, som samfundet selv skal løse.
Min forskning vil ikke ændre det, men mine politiske fundamenter sammen med menneskeheden kan føre til omstændigheder, hvor AI kan blive en yderst nyttig funktion i stedet for at udvide kløften mellem en procent af verdens elite og os resten.
Frygt for et katastrofalt scenarie
Vi er kommet til den sidste frygt, der pålægges os af den vanvittige HAL 9000, Terminatoren og enhver anden skurk superintelligens. Hvis AI fortsætter med at udvikle sig, indtil det overgår menneskelig intelligens, ville et kunstigt superintelligent system (eller en samling af sådanne systemer) betragte mennesker som et nytteløst materiale? Hvordan kan vi retfærdiggøre vores eksistens i lyset af en superintelligens, der er i stand til at gøre og skabe, hvad ingen anden person kan? Vil vi være i stand til at undgå skæbnen ved at blive udslettet af jordens overflade af de maskiner, som vi hjalp med at skabe?
Derfor vil det vigtigste spørgsmål under sådanne omstændigheder lyde sådan: hvorfor har kunstig superintelligens brug for os?
Hvis en sådan situation var sket, ville jeg sandsynligvis sige, at jeg er en god person, der endda har bidraget til oprettelsen af denne superintelligens, som jeg står over for nu. Jeg appellerer til hans medfølelse og empati, så superintelligensen vil forlade mig, så medfølende og empatisk, i live. Jeg vil også tilføje, at artsmangfoldigheden i sig selv har værdi, og universet er så stort, at eksistensen af den menneskelige art i den faktisk er ganske ubetydelig.
Men jeg kan ikke tale for hele menneskeheden, så det vil være vanskeligt for mig at finde et gyldigt argument for os alle. Det er bare det, når jeg ser på os alle, ser jeg virkelig, at vi har gjort meget og gør meget forkert. Hat mod hinanden hersker i verden. Vi går i krig mod hinanden. Vi distribuerer mad, viden og sundhedspleje uretfærdigt. Vi forurener planeten. I denne verden er der selvfølgelig mange gode ting, men hvis man ser på alle de dårlige ting, vi har skabt og fortsætter med at skabe, vil det være meget vanskeligt at finde et argument til støtte for vores fortsatte eksistens.
Heldigvis behøver vi ikke retfærdiggøre vores eksistens endnu. Vi har stadig tid. Fra 50 til 250 år afhængigt af hvor hurtigt kunstig intelligens udvikler sig. Vi som art har evnen til at mødes og finde et godt svar på spørgsmålet om, hvorfor superintelligens ikke bør udslette os fra planeten.
Det vil være meget vanskeligt at løse dette problem. Når alt kommer til alt er det helt forskellige ting at sige, at vi støtter mangfoldighed og etnokulturelle forskelle, og at gøre det. Hvordan man siger, at vi ønsker at redde planeten og med held klare den.
Alle af os, det være sig hvert enkelt individ eller samfund som helhed, skal forberede os på et katastrofalt scenarie ved at bruge den tid til at være klar til at vise og bevise, hvorfor vores skabelser skal give os mulighed for at fortsætte med at eksistere. Eller vi kan blot fortsætte med at blinde tro på, at en sådan udvikling af begivenheder er umulig, og blot holde op med at tale om dette emne.
Uanset hvilken fysisk fare superintelligens der kan udgøre for os, skal vi dog ikke glemme, at det også udgør en politisk og økonomisk fare. Hvis vi ikke finder en måde at forbedre vores levestandard på, ender vi simpelthen med at brændstof til kapitalismen med en kunstig intelligensarbejder, der kun tjener nogle få, der har alle produktionsmidler.
Denne artikel blev oprindeligt offentliggjort på theconversation.com af Arend Hintze, lektor ved Institut for Integrativ Biologi, Computer Science and Engineering, Michigan State University.
Nikolay Khizhnyak
