Næsten alle, der selv har dykket lidt ned i emnet kunstig intelligens, skal komme til den konklusion, at kunstig intelligens enten vil føre os til en forfærdelig apokalypse eller direkte til en fabelagtig utopi. Og der er praktisk talt ingen mellemliggende muligheder. Selvfølgelig dikteres dette delvist af det faktum, at høje slagord som "Slutningen er nær!" eller for eksempel "Utopia kommer!" Men stadig…
Det koger delvist ned til, hvordan folk føler for forandring, især stor forandring. Millennialisme har intet at gøre med at blive født i 90'erne, være en "tusindårsdag" og huske serien om vampyrvinderen Buffy. Det er en tankegang om fremtiden, der er forbundet med en dybtliggende skæbnesans. Millennialisme er "forventningen om, at vores verden vil blive ødelagt og erstattet af en perfekt verden, og at der vil dukke op en forløser, der vil kaste alt ondt ned og være i stand til at trøste de retfærdige."
Følgelig forbinder troen fra årtusinder nøje idéerne om skabelse og ødelæggelse. Blandt dem er ideerne om apokalyptiske, enorme, seismiske skift, der kan ødelægge stoffet i den gamle verden og bygge noget helt nyt. Et lignende trossystem findes i mange store verdensreligioner og endda i de ikke så meget agnostiske og ateistiske religioner, der tror på teknologi snarere end på guddommelige essenser.
Overvej for eksempel hvordan futurister forventer en teknologisk unikhed. Ifølge Ray Kurzweil er singulariteten beslægtet med skabelsen af paradis. Alle vil være udødelige, fordi der vil dukke op bioteknologi, der kan helbrede vores sygdomme; og vores hjerner kan uploades til skyen; lidelse og ulighed forsvinder som fænomener.”Ødelæggelse af verden” erstattes af Silicon Valley's yndlingsudtryk: forstyrrelse, som er en radikal ændring i branchen. Og som det er tilfældet med andre tusindårsoverbevisninger, afhænger din endelige opfattelse i høj grad af, hvad du forventer: fødslen af en utopi eller verdens ende.
Der er mange meget gode grunde til at være skeptiske over for denne form for tænkning. Måske er den mest overbevisende af disse grunde, at al tusindårs overbevisning simpelthen afspejler folks holdning til forandring; se bare hvor mange variationer af denne tro er vokset i verden.
Disse overbevisninger findes i aspekter af kristen teologi, skønt de blev populære i deres moderne form i det nittende og tyvende århundrede. Ideer som evig sorg, mange års trængsel og lidelse og bortrykkelsen, når de retfærdige vil blive oprejst og det onde vil blive straffet. Efter al denne ødelæggelse vil verden blive genskabt, ellers vil folk gå til himlen.
På trods af dogmatisk ateisme var der også mange lignende overbevisninger om marxismen. Det eneste spørgsmål er i forhold til historien. Ligesom troende leder efter signaler, der kan antyde opfyldelsen af alle profetier, leder marxisterne efter tegn på, at vi er i kapitalismens sidste faser. De mener, at samfundet er nedværdigende og uundgåeligt vil degenerere helt til bunden - faktisk, som kristne også tror.
Som marxismen hævder, når udnyttelsen af arbejderklassen af de rige er ustabil, samler og vælter arbejderklassen undertrykkeren. "Sorg" erstattes af "revolution". Nogle gange udråbes revolutionære figurer som Lenin eller Marx selv som messiaser, der bringer tusindårsriget nærmere; deres retorik indeholder altid opfordringer til ødelæggelse af det gamle system, hvis ruiner "vi vil bygge vores, vi vil bygge en ny verden." De retfærdige arbejdere vil få det, de fortjener, og det onde borgerskab vil blive ødelagt.
Salgsfremmende video:
Selv i den nordiske mytologi er der et element af dette, som bemærket af James Hughes i hans essay i Nick Bostroms bog, Global Catastrophic Risks. I Ragnarok besejres både mennesker og guder i den sidste apokalyptiske kamp, men da det hele er lidt dystert, tilføjede skandinaverne ideen om et nyt land, hvor de overlevende vil leve i harmoni.
Dommedag er også blevet et kulturelt spor. Tag de gamle egyptere og deres tro på efterlivet; underverdenens herre, Osiris, vejer et dødeligt hjerte sammen med en fjer. Hvis den afdødes hjerte er for belastet af overtrædelser, vil dæmonen spise det, og håbet om et efterliv forsvinder.
Sandsynligvis sker der noget lignende under singulariteten. Når vores teknologi forbedres, og derfor vores styrke, vil vores hjerter, menneskers hjerter, blive vejet mod fjer. Hvis de viser sig at være for tunge - med dumhed, arrogance, fordomme, ondskab - vil vi fejle testen og blive ødelagt. Men hvis vi går gennem og ud af singulariteten, venter himlen på os. Som med andre trossystemer er der ikke plads til vantro; hele samfundet vil ændre sig radikalt, uanset om du kan lide det eller ej. Teknologisk beundring.
Enhver større udvikling ser ud til at fremkalde et lignende svar. Og også atomvåben. Enten vil det være det sidste strå, og vi vil ødelægge os selv, eller så kan kernekraft bruges til at skabe en bedre verden. I de tidlige dage af den nukleare alder talte folk om elektricitet "for billig til at tælle." Forskere, der arbejder på bomben, troede ofte, at vi med en sådan destruktiv magt i menneskers hænder simpelthen skulle komme sammen og arbejde sammen som en art.
Når vi igen og igen ser det samme svar under forskellige omstændigheder, der opstår på forskellige områder, det være sig videnskab, politik eller religion, er vi nødt til at overveje menneskelig bias. Vi elsker årtusindets overbevisning, så når ideen om kunstig intelligens, der overgår menneskelig intelligens, kommer op, pålægger vi straks et velkendt mønster.
Vi kan ikke lide fakta. Vi kan ikke lide oplysningerne. Vi er ikke så rationelle som vi tror, vi er. Vi skaber fortællinger. Fysikere observerer verden, og vi fletter vores egne observationer ind i fortællende teorier, historier om små billardkugler, der flyver her og der og kolliderer med hinanden, eller af rum og tid, der bøjer, bøjer og udvider sig. Historikere prøver at give mening til en endeløs strøm af begivenheder. Vi elsker historier: historier lagt ud af vores fortid, vores nutid, og de forbereder os også på fremtiden.
Tusindårsfortællingen er meget smuk og overbevisende. Han bringer dig social forandring. Han kan retfærdiggøre din daglige lidelse, hvis du sørger. Han giver dig håb om, at dit liv er vigtigt og meningsfuldt. Det giver dig en fornemmelse af ting, der skrider frem i en bestemt retning i henhold til reglerne og ikke kun i kaos. Han lover, at de retfærdige vil blive frelst og kættere straffet, selvom der er lidelse på vej. Endelig lover tusindårsfortællingen himlen i slutningen af tunnelen.
Vi skal være forsigtige med tusindårsfortællingen, når vi tænker på teknologisk udvikling, singularitet og eksistentielle risici. Vi råbte”ulve!” Mange gange, da de ikke var der. Måske selv nu er verden ikke på randen af en katastrofe. Selvfølgelig er denne historie ikke så attraktiv. Selvfølgelig vil alle have en fortryllende afslutning.
Men grave dybere, og du vil opdage, at tusindårsoverbevisninger ikke altid er de mest lovende, fordi de tager den menneskelige agent ud af ligningen. Vi bliver nødt til at tro på gråtoner og opgive den uhyggelige apokalypse med den røde øjne AI og den fabelagtige utopi med den allmægtige AI, der elsker mennesker.