Menneskeheden har en egenskab, som højtudviklede fremmede civilisationer sandsynligvis ikke har - bevidsthed.
Det er muligt, at mennesker ikke har det højeste niveau af mental udvikling i universet. Da Jorden er en relativt ung planet, kan de ældste civilisationer være milliarder af år ældre end os. Men selv på jorden vil Homo sapiens ikke dominere i lang tid som den mest intelligente biologiske art.
Verdensmestre i vinde, skak og quiz er intelligente computerprogrammer. Kunstig intelligens forventes at fortrænge mange menneskelige erhverv i løbet af de næste årtier. Og i betragtning af det hurtige tempo i dens udvikling er det meget muligt, at det snart vil blive omdannet til en generel kunstig intelligens, der ligesom det menneskelige sind vil være i stand til at kombinere evnen til at analysere en række informationer, vise fleksibilitet og sund fornuft. Og derfra er det ikke langt til fremkomsten af superintelligent kunstig intelligens, som i alle henseender er meget klogere end mennesker - selv inden for områder som videnskabelig tænkning og sociale færdigheder, som nu ser ud til at være det menneskelige sinds privilegium. Hvert af de levende mennesker kan være et af de sidste trin i den evolutionære stige,fører fra den allerførste levende celle til syntetisk kunstig intelligens.
Vi er først nu begyndt at indse, at disse to former for overmenneskelig intelligens - fremmede og kunstige - ikke er så forskellige. Den tekniske udvikling, som vi ser i dag, kunne have fundet sted før, et eller andet sted i universet. Overgangen fra biologisk intelligens til en kunstigt oprettet kan være en fælles skabelon, implementeret igen og igen i alle hjørner af kosmos. De største intelligenser i universet er sandsynligvis af postbiologisk oprindelse og udvikler sig fra engang biologiske civilisationer. (Dette synspunkt deler jeg blandt andet med Paul Davis, Stephen Dick, Martin Rees og Seth Shostak). Baseret på menneskehedens oplevelse - og vi har kun et eksempel - kan overgangen fra biologisk til postbiologisk kun tage et par hundrede år.
Jeg foretrækker udtrykket "kunstig" frem for "postbiologisk", fordi kontrasten mellem biologisk og syntetisk ikke er så skarp. Forestil dig, at et biologisk sind bliver en superintelligens gennem rent biologiske forbedringer, såsom nanoteknologisk forbedrede neurale minikolonner. En sådan levende organisme ville blive betragtet som postbiologisk, men ikke alle ville kalde det "kunstig intelligens." Eller overvej computronium, der er bygget af rent biologiske materialer, såsom Cylon raider (rumfighter) i sci-fi-mediefranchisen Battlestar Galactica.
Nøglepunktet er, at der ikke er nogen grund til at tænke på menneskeheden som den højeste form for intelligens. Vores hjerner tilpasser sig visse miljøforhold og er stærkt begrænset af kemiske og historiske faktorer. Men teknologien har åbnet et stort rum af designparametre, der tilbyder nye materialer og arbejdsmetoder, samt nye muligheder for at udforske dette rum hurtigere end med traditionel biologisk udvikling. Og jeg tror, at årsagerne til, at kunstig intelligens vil overgå os, allerede er synlige i dag.
Udenjordisk kunstig intelligens kan forfølge mål, der er i strid med det biologiske livs interesser
Allerede nu er det bedste middel til behandling af information ikke grupper af neuroner, men siliciummikrokredsløb. Den maksimale hastighed for neuroner er ca. 200 Hz sammenlignet med gigahertz af transistorer i moderne mikroprocessorer. På trods af at den menneskelige hjerne stadig er meget mere intelligent end en computer, har maskiner stadig næsten ubegrænsede muligheder for forbedring. Bare lidt mere, og de vil blive designet til at matche den menneskelige hjernes evner eller endda overgå dem ved at reverse engineering af hjernen og forbedre dens algoritmer eller ved at kombinere reverse engineering og rationelle algoritmer, der ikke er baseret på den menneskelige hjernes arbejde.
Salgsfremmende video:
Derudover kan kunstig intelligens indlæses flere steder på én gang, det er let at vedligeholde og ændre det, og det kan også bevares under forhold, hvor biologisk liv, herunder interstellar rejse, næppe overlever. Vores små hjerner er begrænset af volumenet af vores kranium og vores stofskifte; superintelligent kunstig intelligens er på den anden side i stand til at sprede sig over Internettet og endda skabe computronium på skalaen fra galaksen ved at bruge alt dets stof for at hæve informationsbehandlingsniveauet maksimalt. Uden tvivl ville en superintelligent kunstig intelligens være meget mere holdbar end vores menneskelige sind.
Antag at jeg har ret. Lad os sige, at intelligent liv derude er postbiologisk. Hvilke konklusioner skal vi drage? På nuværende tidspunkt er der veltalende diskussioner om eksistensen af kunstig intelligens på Jorden. Der er to kontroversielle spørgsmål: det såkaldte "kontrolproblem" og den subjektive oplevelses natur, som påvirker vores forståelse af udenjordiske civilisationer og deres indvirkning på os i tilfælde af kontakt.
Ray Kurzweil er optimistisk med hensyn til den postbiologiske fase af evolutionen, hvilket tyder på, at menneskeheden vil fusionere med maskiner og opnå en forbløffende teknologisk utopisme. Men Stephen Hawking, Bill Gates, Elon Musk og andre har udtrykt bekymring for, at menneskeheden kan miste kontrollen med superintelligent intelligens, da den kunne omskrive sit program og "overvinde" enhver kontrol, vi indfører. Dette er problemet med kontrol, som er vores evne til at kontrollere den mystiske og meget overlegne AI.
Superintelligent AI kan udvikles i en teknologisk unikhed - en pludselig overgang, hvor accelererende teknologiske fremskridt og især den eksplosive udvikling af kunstig intelligens - reducerer vores chancer for at forudsige eller forstå. Men selvom et sådant sind opstår på en mindre radikal måde, vil vi sandsynligvis ikke være i stand til at forudsige eller kontrollere de mål, det forfølger. Selvom vi kunne vælge hvilke moralske principper, vi skulle installere i vores maskiner, er moralsk programmering vanskeligt at definere på en klar måde, og sådanne programmer kan under alle omstændigheder omskrives af superintelligent intelligens. Smarte maskiner kan omgå eksisterende sikkerhedsforanstaltninger såsom nødlåsning af enheden og derved udgøre en reel trussel mod det biologiske liv. Der investeres millioner af dollars i AI-sikkerhedsorganisationer. De bedste hjerner inden for datalogi og computing arbejder på dette problem. Lad os håbe, at forskere skaber sikre systemer, men der er frygt for, at problemet med kontrol er uoverstigeligt.
I lyset af dette kan kontakt med fremmed intelligens være farligere, end vi tror. Biologiske rumvæsner kan være fjendtlige, men endnu mere farlige kan være udenjordisk kunstig intelligens. Hans mål kan være i strid med det biologiske livs interesser, han kan have intellektuelle evner langt over det menneskelige sind og langt større levetid end biologisk liv.
Alt dette vidner om den forsigtighed, der skal udøves i forbindelse med programmet Search for Extraterrestrial Intelligence (SETI), ved hjælp af hvilket vi ikke kun passivt forventer at høre signaler fra andre civilisationer, men også bevidst "reklamerer" for vores eksistens. Den mest berømte hændelse fandt sted i 1974, da Frank Drake og Carl Sagan sendte en besked til en af stjerneklyngerne ved hjælp af et kæmpe radioteleskop i den Puerto Ricas by Arecibo. Tilhængere af det udenjordiske efterretningsprogram mener, at i stedet for bare at lytte til signaler fra udenjordiske civilisationer, skal vi sende beskeder til stjernerne tættest på Jorden ved hjælp af de mest kraftfulde radiosendere, såsom i Arecibo.
Hvorfor skulle ubevidste maskiner være lige så vigtige som biologisk intelligens?
Set ud fra kontrolproblemet synes et sådant program for mig hensynsløst. Selvom en virkelig avanceret civilisation sandsynligvis ikke ville have nogen interesse i os, ville selv en fjendtlig civilisation ud af millioner af andre være en katastrofe. Indtil vi er sikre på, at superintelligent intelligens ikke udgør en trussel for os, bør menneskeheden ikke tiltrække opmærksomhed fra udenjordiske civilisationer. SETI-fortalere påpeger, at vores radar- og radiosignaler allerede er detekterbare, men snarere svage og hurtigt blandes med naturlig galaktisk støj. Overførsel af stærkere signaler, der nøjagtigt vil blive hørt, er fyldt med farlige konsekvenser for menneskeheden.
Den sikreste indstilling er intellektuel ydmyghed. Faktisk, hvis vi udelukker de åbenlyse scenarier, når fremmede skibe svæver over jorden, som i den for nylig frigivne ankomst, er jeg ikke sikker på, om vi vil være i stand til at identificere superintelligent intelligens af tekniske grunde. Nogle forskere mener, at superintelligent AI kunne brænde sorte huller eller skabe Dyson-sfærer, megastrukturer, der absorberer hele stjernernes energi. Men set fra vores moderne teknologiers synspunkt er dette kun en begrundelse. Det er yderst selvsikkert at hævde, at vi kan forudse civilisationers beregningsevner og energibehov foran os i udvikling med millioner, hvis ikke milliarder af år.
Nogle af de tidligste superintelligente kunstige intelligenser kan have haft videnbehandlingssystemer modelleret på den biologiske hjerne, såsom det dybe læringssystem, der blev oprettet ved hjælp af eksemplet på neurale netværk i hjernen. Deres beregningsstruktur ville være klar for os, i det mindste generelt. Måske har kunstig intelligens mål svarende til biologiske væsener - reproduktion og overlevelse.
Men som et selvforbedrende system kan superintelligente kunstige intelligenser gå i en uigenkendelig form. Nogle af dem kan vælge at bevare kognitive funktioner svarende til de arter, hvorfra de blev modelleret, mens de satte en acceptabel grænse for deres egen kognitive arkitektur. Hvem ved? Men i mangel af en sådan grænse kan den fremmede superintelligens hurtigt overgå vores evne til ikke kun at forstå dens handlinger, men endda blot se efter den. Måske ville han endda fusionere med universets naturlige træk; eller det kan være en del af mørkt stof, som Caleb Scharf for nylig foreslog.
Tilhængere af programmet til søgning efter udenjordisk efterretning mener, at det er derfor, vi skal sende signaler ud i rummet for at gøre det muligt for fremmede intelligenser at opdage os og skabe kontaktmidler til rådighed for vores intellektuelt forsinkede civilisation. Mens jeg er enig i, at der er grund til at regne med SETI-programmet, er sandsynligheden for at støde på farlig superintelligent intelligens langt større. Så vidt vi ved, kunne en ondsindet superintelligens inficere verdens kunstige intelligenssystemer med vira, og intelligente civilisationer ville skabe tilsløringsenheder. Vi, mennesker, skal muligvis først opnå vores egen unikhed, inden vi tager fat på programmet for søgen efter udenjordisk intelligens. Vores egne superintelligente intelligenser vil være i stand til at informere os om udsigterne til galaktisk sikkerhed,og at styre vores handlinger i tilfælde af anerkendelse af tegn på en anden superintelligens i universet. Fugle af samme fjer, samles i flok.
Det er kun naturligt at tænke over, om det betyder, at menneskeheden skal undgå udviklingen af et komplekst system med kunstig intelligens inden for rumforskning; bare husk HEL-computeren fra filmen "A Space Odyssey 2001". Jeg tror, det er for tidligt at tænke over et forbud mod anvendelse af kunstig intelligens i rummet i fremtiden. Når vi kan udforske universet med vores egen kunstige intelligens, når menneskeheden et vendepunkt. Vi vil enten allerede miste kontrollen med kunstig intelligens - i så fald vil der ikke være nogen menneskeligt initierede rumprojekter - eller vi vil fastholde AI-sikkerhedshåndtagene. Det vil tiden vise.
Kunstig intelligens, som ikke er blevet udforsket fuldt ud, er ikke den eneste grund til bekymring. Vi forventer generelt, at hvis vi støder på avanceret udenjordisk intelligens, vil vi sandsynligvis støde på skabninger, der er biologisk meget forskellige fra os, men som har et sind svarende til vores. Forestil dig, at der til enhver tid, når du er vågen og altid når du sover, er der noget unikt for dig. Når solopgangens varme nuancer kommer til dit blik, eller når du indånder aromaen af friskbagt brød, har du en bevidst oplevelse. På samme måde er der noget, der er karakteristisk for det fremmede sind - i det mindste den måde, vi forestiller os det på. Men denne antagelse er værd at stille spørgsmålstegn ved. Kan en superintelligent kunstig intelligens have en bevidst oplevelse, og i så faldhvad ville vi sige til det? Og hvilken indvirkning ville deres indre verden eller mangel på have på os?
Spørgsmålet om, hvorvidt kunstig intelligens har en indre verden, er nøglen til vores vurdering af dens eksistens. Bevidsthed er hjørnestenen i vores moralske og etiske system og hovedbetingelsen for opfattelsen af nogen eller noget som et individ, en person og ikke en maskine. Omvendt kan spørgsmålet om, hvorvidt de er bevidste, være nøglen til deres opfattelse af os. Svaret på spørgsmålet om, hvorvidt kunstig intelligens har en indre verden, afhænger af denne vurdering; han kan opdage evnen til bevidst oplevelse i os ved at bruge sin egen subjektive oplevelse som et "springbræt". Til sidst vurderer vi livet for andre biologiske væsner ved lighed mellem vores sind, så de fleste af os i rædsel vil nægte at dræbe chimpanser, men de spiser et æble med glæde.
Men hvordan genkender væsener med enorme intellektuelle forskelle, skabt af forskellige substrater, bevidsthed i hinanden? Filosoffer overalt i verden har overvejet, om bevidstheden er begrænset til biologiske fænomener. Superintelligent kunstig intelligens, hvis vi skal fordybe os i filosofisk ræsonnement, kunne ligeledes rejse "problemet med biologisk bevidsthed" hos mennesker og undre sig samtidig på, om vi har alt det nødvendige materiale.
Ingen ved, hvilken intellektuel vej superminden vil tage for at bestemme menneskers bevidsthed. Men fra vores side kan vi heller ikke hævde, om kunstig intelligens har bevidsthed. Desværre vil det være vanskeligt at bestemme dette. Lige nu kan du hævde, at du får erfaring, og det er det, der gør dig selv. Du er dit eget eksempel på bevidst oplevelse. Og du tror, at andre mennesker og nogle ikke-menneskelige dyr sandsynligvis også er bevidste, fordi de ligner dig på et neurofysiologisk niveau. Men hvordan finder du ud af, om noget, der er oprettet fra helt forskellige substrater, kan have erfaring?
Overvej for eksempel en siliciumbaseret superintelligens. På trods af at både siliciummikrochips og neurale minikolonner behandler information, ved vi nu, at de på molekylært niveau kan adskille sig i den måde, de påvirker bevidstheden på. Når alt kommer til alt, mener vi, at kulstof er et materiale, der er kemisk bedre egnet til livet end silicium. Hvis de kemiske forskelle mellem silicium og kulstof påvirker noget så vigtigt som selve livet, bør vi ikke udelukke muligheden for, at kemiske forskelle påvirker andre nøglefunktioner, såsom om silicium bidrager til fødslen af bevidsthed.
Betingelserne, der er nødvendige for fremkomsten af bevidsthed, diskuteres bredt af forskere, neurovidenskabere og filosoffer om kunstig intelligens. At løse dette spørgsmål kan kræve en filosofibaseret empirisk tilgang - en måde at bestemme fra sag til sag, om et informationsbehandlingssystem understøtter bevidsthed, og under hvilke betingelser.
Lad os derefter tale om en antagelse, hvormed vi kunne forbedre vores forståelse af siliciums evne til at bevare bevidstheden. Udviklingen af siliciumbaserede hjernechips er allerede i gang til behandling af hukommelsesrelaterede sygdomme som Alzheimers og PTSD. Når tiden kommer, og der installeres chips i de dele af hjernen, der er ansvarlige for bevidsthedens funktioner, for eksempel opmærksomhed og arbejdshukommelse, vil vi forstå, om silicium er et substrat for bevidsthed. Du kan finde ud af, at når du udskifter en bestemt del af hjernen med en chip, går en vis oplevelse tabt, som beskrevet i et af værkerne fra Oliver Sachs. I dette tilfælde kunne ingeniørerne, der opretter sådanne chips, prøve en anden, ikke-neural type substrat, men de kunne til sidst opdageat chippen oprettet af biologiske neuroner er den eneste, der fungerer. En sådan teknik vil hjælpe med at bestemme, om et AI-system kan være bevidst, i det mindste når det placeres i et større og formodentlig allerede bevidst system.
Selvom silicium kan give anledning til bevidsthed, er det kun muligt under visse betingelser. De egenskaber, der fører til en kompleks informationsbehandlingsproces (som AI-udviklere er bekymrede for) kan afvige fra de egenskaber, der skaber bevidsthed. Den såkaldte teknik for bevidsthed kan være påkrævet - teknisk tankevækkende handlinger for at introducere bevidsthed i maskiner.
Det er det, der bekymrer mig. Hvem på jorden eller på fjerne planeter ville forsøge at uafhængigt integrere bevidsthed i AI-systemer? Når jeg tænker på de AI-programmer, der findes på Jorden, forstår jeg faktisk, hvorfor deres designingeniører flittigt undgår at skabe bevidste maskiner.
I dag udvikler japanerne robotter til pleje af ældre, rengøring af atomreaktorer og deltagelse i fjendtligheder. Dette rejser spørgsmålet: Er det etisk at udnytte robotter, hvis de er bevidste? Og hvordan vil det adskille sig fra at opdrætte mennesker til disse formål? Hvis jeg var direktør for AI-udvikling hos Google eller Facebook, ville jeg ikke, når jeg tænkte på fremtidige projekter, ønsker at stå over for den etiske forvirring ved ved et uheld at designe et bevidst system. Udviklingen af et sådant system kunne føre til beskyldninger om slaveri af robotter og andre offentlige skandaler samt et forbud mod anvendelse af kunstig intelligensteknologi i de områder, de var beregnet til. Det naturlige svar på disse spørgsmål er søgningen efter strukturer og substrater, hvor robotter ikke er udstyret med bevidsthed.
Desuden kan eliminering af bevidsthed være mere effektiv for den selvkultiverende superintelligens. Tænk på, hvordan menneskelig bevidsthed fungerer. Kun en lille procentdel af menneskelig tænkning er tilgængelig til bevidst mental aktivitet. Bevidsthed er i overensstemmelse med innovative læringsmål, der kræver opmærksomhed og fokus. Superintelligensen ville have ekspertviden inden for alle aktivitetsområder såvel som en utrolig hurtig behandlingshastighed med dækning af enorme databaser, der kunne omfatte hele Internettet og i fremtiden koncentrere en hel galakse i sig selv. Hvad ville forblive ukendt for ham? Hvad ville kræve målt og rimelig koncentration? Har han ikke opnået perfektion i alt? Som en erfaren chauffør på en velkendt vejhan kunne stole på ubevidst (automatisk) informationsbehandling. Fra effektivitetssynpunkt er det desværre indlysende, at de fleste intelligente systemer ikke vil have bevidsthed. På en kosmisk skala kan bevidsthed kun være en impuls, en kortvarig blomstring af oplevelse, før universet vender tilbage til tankeløshed.
Hvis mennesker har mistanke om, at kunstig intelligens er ubevidst, antager de sandsynligvis frygteligt, at AI søger at blive postbiologisk. Dette øger vores eksistentielle bekymringer. Hvorfor skulle ubevidste maskiner være lige så vigtige som biologisk intelligens?
Meget snart vil folk ophøre med at være de eneste intelligente væsener på Jorden. Og måske et eller andet sted i rummet, ikke biologisk liv, men en superintelligent AI har allerede nået sit højdepunkt. Men måske har biologisk liv en anden egenskab - bevidst oplevelse. Som vi nu ved, kræver intelligent kunstig intelligens bevidst ingeniørarbejde for at skabe maskiner, der kan få adgang til menneskelige sanser. Måske vil nogle arter finde det passende at skabe deres egne kunstigt bevidste børn. Eller måske vil fremtidens menneskehed engagere sig i bevidsthedsteknik og dele med universet dens bevidste evne til at føle.
Susan Schneider er assisterende professor ved Institut for Filosofi og Kognitive Videnskaber ved University of Connecticut og tilknyttet professor ved Institut for Avanceret Studie, Center for Teologisk Forskning, Etik og Teknologigruppe ved Yale Interdisciplinary Center for Bioethics. Forfatter til flere bøger, herunder Science Fiction og Philosophy: From Time Travel to Supermind.
Flere oplysninger kan findes på SchneiderWebsite.com