Næsten alle, der dykker endda lidt ind i emnet kunstig intelligens, kommer til den konklusion, at det enten vil føre os til en brændende apokalypse eller til en magisk utopi. Der er praktisk talt ingen muligheder imellem. Selvfølgelig skyldes det delvis, at slagord som "Slutningen er nær!" eller "Utopia kommer!" Men stadig…
En del af det kommer ned til, hvordan folk føler for forandring, især store ændringer. Millennialisme har intet at gøre med at være årtusinde, blive født i 90'erne og huske Buffy the Vampire Slayer-serien. Det er en stil med tænkning om fremtiden, der er forbundet med en dybtliggende skæbnesans. Millennialisme er "forventningen om, at verden vil blive ødelagt og erstattet af en perfekt verden, og at der vil komme en forløser, der vil nedbringe ondt og trøste de retfærdige."
Tusindårsoverbevisninger forbinder derfor tæt ideerne om ødelæggelse og skabelse. Blandt dem er ideer om store, apokalyptiske, seismiske skift, der vil ødelægge stoffet i den gamle verden og bygge noget helt nyt. Et lignende trossystem findes i mange af verdens største religioner og endda i de ikke helt ateistiske og agnostiske religioner, der tror på teknologi.
Se for eksempel hvordan futurister venter på en teknologisk unikhed. Ifølge Ray Kurzweil er singulariteten skabelsen af paradis. Alle vil blive udødelige takket være bioteknologi, der vil helbrede vores sygdomme; vores hjerner kan uploades til skyen; ulighed og lidelse forsvinder som fænomener.”Ødelæggelse af verden” erstattes af Silicon Valley's yndlingsudtryk: forstyrrelse eller radikale industriændringer. Og som med andre tusindårsoverbevisninger afhænger din endelige opfattelse af, om du venter på verdens ende eller fødslen af en utopi.
Der er mange gode grunde til at være skeptiske over for denne form for tænkning. Måske er den mest overbevisende af disse, at troen på årtusinder ganske enkelt afspejler folks holdning til forandring; se bare på, hvor mange variationer af denne tro der er vokset op i verden.
Disse overbevisninger er til stede i aspekter af kristen teologi, skønt de blev populære i deres moderne form i det 19. og 20. århundrede. Idéer som evig sorg - mange års lidelse og modgang - og bortrykkelsen, når de retfærdige vil blive oprejst og det onde straffet. Efter denne ødelæggelse vil verden blive genopbygget, eller folk vil komme til himlen.
På trods af dogmatisk ateisme var der mange lignende tro på marxismen. Det eneste spørgsmål er i forhold til historien. Ligesom troende leder efter signaler, der antyder, at profetien er opfyldt, leder marxisterne efter tegn på, at vi er i kapitalismens sidste faser. De mener, at samfundet uundgåeligt vil nedbrydes og degenerere helt til bunden - faktisk, som kristne tror.
Ifølge marxismen, når udnyttelsen af arbejderklassen af de rige bliver uholdbar, samler arbejderklassen og vælter undertrykkeren. "Sorg" erstattes af "revolution". Nogle gange hyldes revolutionære figurer som Lenin eller Marx selv som messiaster, der bringer tusindårsriget nærmere; deres retorik indeholder uundgåeligt opfordringer til ødelæggelse af det gamle system, hvis ruiner "vi vil bygge vores, vi vil bygge en ny verden." De retfærdige arbejdere vil få deres retmæssige, og det onde borgerskab vil blive ødelagt.
Salgsfremmende video:
Selv i nordisk mytologi er der et element i dette, som bemærket af James Hughes i hans essay i Nick Bostroms bog, Global Catastrophic Risks. I Ragnarok besejres både mennesker og guder i den sidste apokalyptiske kamp, men da det hele er lidt dystert, tilføjede skandinaverne ideen om et nyt land, hvor de overlevende vil leve i harmoni.
Dommedag er også blevet et kulturelt spor. Tag de gamle egyptere og deres tro på efterlivet; underverdenens herre, Osiris, vejer et dødeligt hjerte sammen med en fjer. Hvis den afdødes hjerte er for belastet af overtrædelser, vil dæmonen spise det, og håbet om et efterliv forsvinder.
Måske sker der noget som dette under singulariteten. Når vores teknologi forbedres, og derfor vores styrke, vil vores hjerter, menneskers hjerter, blive vejet mod fjer. Hvis de viser sig at være for tunge - med dumhed, arrogance, fordomme, ondskab - vil vi fejle testen og blive ødelagt. Men hvis vi går gennem og ud af singulariteten, venter himlen på os. Som med andre trossystemer er der ikke plads til vantro; hele samfundet vil ændre sig radikalt, uanset om du kan lide det eller ej. Teknologisk beundring.
Det ser ud til, at enhver større udvikling fremkalder et sådant svar. Og atomvåben også. Enten vil det være det sidste halm, og vi vil ødelægge os selv, eller så kan kernekraft bruges til at skabe en bedre verden. I de tidlige dage af den nukleare alder talte folk om elektricitet "for billig til at tælle." Forskere, der arbejdede på bomben, troede ofte, at vi med en sådan destruktiv magt i menneskets hænder simpelthen skulle samles og arbejde sammen som en art.
Når vi igen og igen ser det samme svar under forskellige omstændigheder, der opstår inden for forskellige områder, det være sig videnskab, religion eller politik, er vi nødt til at overveje menneskelig bias. Vi elsker årtusindets overbevisning, så når ideen om kunstig intelligens, der overgår menneskelig intelligens, kommer op, pålægger vi straks et velkendt mønster.
Vi kan ikke lide fakta. Vi kan ikke lide oplysningerne. Vi er ikke så rationelle som vi tror, vi er. Vi skaber fortællinger. Fysikere observerer verden, og vi fletter vores egne observationer ind i fortællende teorier, historier om små billardkugler, der flyver her og der og kolliderer med hinanden, eller af rum og tid, der bøjer, bøjer og udvider sig. Historikere prøver at give mening til en endeløs strøm af begivenheder. Vi elsker historier: historier lagt ud af vores fortid, vores nutid, og de forbereder os også på fremtiden.
Tusindårsfortællingen er smuk og overbevisende. Han bringer dig social forandring. Han kan retfærdiggøre din daglige lidelse, hvis du sørger. Han giver dig håb om, at dit liv er vigtigt og meningsfuldt. Det giver dig en fornemmelse af ting, der skrider frem i en bestemt retning i henhold til reglerne og ikke kun i kaos. Han lover, at de retfærdige vil blive frelst og kættere straffet, selvom der er lidelse på vej. Endelig lover tusindårsfortællingen himlen i slutningen af tunnelen.
Vi skal være forsigtige med tusindårsfortællingen, når vi tænker på teknologisk udvikling, singularitet og eksistentielle risici. Vi råbte”ulve!” Mange gange, da de ikke var der. Måske selv nu er verden ikke på randen af en katastrofe. Selvfølgelig er denne historie ikke så attraktiv. Selvfølgelig vil alle have en fortryllende afslutning.
Men grave dybere, og du vil opdage, at tusindårsoverbevisninger ikke altid er de mest lovende, fordi de tager den menneskelige agent ud af ligningen. Vi bliver nødt til at tro på gråtoner og opgive den uhyggelige apokalypse med den røde øjne AI og den fabelagtige utopi med den allmægtige AI, der elsker mennesker.
Ilya Khel