Den svenske filosof Nick Bostrom, direktør for Oxford Institute for the Future of Humanity, er berømt for sit arbejde med eksistentielle risici, det antropiske princip, etikken for menneskelig forbedring og de trusler, som kunstig intelligens udgør. Han skrev "Proof of Simulation", hvor han antyder, at vores virkelighed kan simuleres på en computer, der er oprettet af en eller anden avanceret civilisation. I juni besøgte Nick Bostrom Rusland for at deltage i den internationale cybersecurity-kongres, der blev arrangeret af Sberbank med støtte fra ANO Tsifrovaya Economy og Association of Russian Banks. Den specielle korrespondent for "Lenta.ru" talte med Bostrom om opstanden af maskinerne, verdensregeringen og transhumanismen, og fandt også ud af, hvorfor leve videre, hvis "Matrix" er omkring.
Hvad er meningen med futurologi? Hvis vi ser på forudsigelserne fra fortidens futurister, viste det sig, at næsten ingen af deres forudsigelser var korrekte
Bostrom: Når jeg taler om denne disciplin, tror jeg ikke, det har nogen værdi.
Nick Bostrom. Foto: Tom Pilston for The Washington Post / Getty Images.
Ja, men du prøver bare at forudsige visse globale begivenheder i fremtiden
Jeg vil ikke beskrive som futurologi, hvad jeg eller en gruppe forskere under min ledelse gør. Vi gør visse ting. Først og fremmest udvikler vi koncepter for at gøre det lettere at finde mønstre mellem begivenheder i nutiden og deres langsigtede konsekvenser, se hvor de kan føre os, og om noget kan ændres fundamentalt.
Vi forsøger også at finde ud af, hvilke ændringer der vil føre til et positivt resultat, og hvilke til et negativt. For eksempel er begrebet eksistentielle risici, der fører til det faktum, at intelligent liv vil dø ud eller sidde fast i en form for radikal ikke-optimal tilstand. I dette eksempel er konsekvenserne af en eksistentiel katastrofe faktisk meget lette at forudsige og yderst relevante med hensyn til et bestemt værdiperspektiv, hvilket indebærer, at fremtiden er af stor betydning. Så alt dette vil hjælpe med at fokusere på konsekvenserne af visse handlinger.
Salgsfremmende video:
Men noget af den forskning, vi laver, er meget mere specifik. For eksempel har vi en gruppe specialister, der arbejder med sikkerheden ved kunstig intelligens (dette er et underafsnit af datalogi), fordi vi mener, at sådanne indsigter helt sikkert vil være nødvendige i fremtiden.
Bør vi virkelig være bange for ting som stærk kunstig intelligens, faldet i en himmellegeme, invasionen af fremmede civilisationer? Tror du ikke, at når myndigheder som dig, Elon Musk eller Stephen Hawking taler om sådanne ting, de distraherer samfundet fra mere presserende problemer?
Jeg tror ikke, at vi kun skal tænke på de problemer, vi har nu. Vi bør tænke over, hvor vi skal hen. Du skal bekymre dig om både nutiden og fremtiden. At sætte blink på og ikke se stierne, der fører til klippen, ville være en stor fejltagelse.
Tror du virkelig, at kunstig intelligens kan udgøre en trussel mod menneskeheden?
Selvfølgelig er det en stærk kunstig intelligens, der kan udgøre en trussel - ikke den, der findes nu. Jeg kan forestille mig visse scenarier, når dette er muligt. Jeg ser dem dog mere som en portal, hvorigennem menneskeheden skal gå videre til en bedre fremtid, hvilket indebærer den uundgåelige udvikling af maskinens superintelligens. Så spørgsmålet er ikke, om dette skridt skal tages eller ej. Det er bare det, når vi gør det, det skal være så omhyggeligt og ansvarligt som muligt. Vi er nødt til at sikre os, at vi kommer gennem portalen og ikke styrter mod væggen.
Men har menneskeheden brug for at gå gennem denne portal, hvis en stærk AI viser sig at være bedre, smartere, hurtigere end et menneske? Generelt, hvorfor i en filosofisk forstand er der brug for en person, hvis en stærk AI repræsenterer et mere perfekt værktøj til selvkendskab til universet?
Jeg synes, vi bør bruge maskiner som en udvidelse af den menneskelige vilje, så de kan gavne os. Og det er muligt. Men der er også risici, der kan forhindre os i at nå dette mål.
Jeg prøver at spørge, om der er mening i eksistensen af et ufuldkommen organisk liv, hvis maskinen er bedre? Hvorfor skulle menneskeheden endda eksistere efter at have udviklet stærk AI?
Du ved, det hele afhænger af alternativerne - hvad resultatet bliver menneskeheden og hvad disse andre livsformer vil være. Jeg tror ikke, at hvis noget viser sig at være mere fornuftigt og mere succesfuldt i en evolutionær forstand end en person, så vil det fra synspunktet om moral være bedre end en person. Jeg kan forestille mig forskellige resultater, der fører til væsentligt negative konsekvenser: For eksempel kan en ekstremt avanceret teknologisk civilisation miste universelle værdier. Men jeg tror bestemt ikke, at mennesker i deres nuværende form er ideelle væsener med intet andet sted at udvikle sig. Og her taler jeg ikke kun om forbedring af biologiske livsformer - man kan forestille sig positive scenarier, hvor menneskeheden bliver en fuldstændig digital livsform.
Så du tror, at bevidstheden kan overføres til en bil?
Ja, men med fremkomsten af moden nok teknologi, ikke i dag.
Og tror du derfor, at bevidsthed udelukkende er nummereringsprocesserne?
Ja.
Hvordan har du det med filosofernes værker, der postulerer bevidsthedens dualistiske natur - at bevidstheden er et subjektivt fænomen, der eksisterer uden for den objektive verden? Som den australske filosof David Chalmers for eksempel beskriver det
Jeg er tilhænger af teorien om, at bevidsthed er et tal. Selvfølgelig tror jeg ikke, at det, der gør os bevidste væsener, giver os en subjektiv oplevelse, afhænger af det faktum, at vi simpelthen er lavet af kulstofatomer. Men vores hjerne producerer bestemte nummereringsprocesser, der i princippet kan startes i et andet miljø. Og dette er nøglepostulatet - det er ikke det materiale, der er vigtigt, men de funktionelle egenskaber ved nummereringsprocessen i sig selv.
Og det faktum, at jeg opfatter verden gennem min bevidsthed, er bare et sæt neurale impulser i min hjerne?
Nemlig. Jeg tror, at din hjerne giver anledning til din bevidsthed. Men spørgsmålet er, hvad der ellers kan generere din bevidsthed. Og jeg tror, at det i princippet ikke behøver at være en organisk struktur. Dette kan f.eks. Være en computer.
Men vil han være opmærksom på sig selv, har den meget subjektivitet?
Jeg tror, det er muligt at skabe selvbevidste computere. Igen er dette ikke muligt nu, men i fremtiden ser jeg ingen hindringer for dette.
Hvis han var selvbevidst, ville ikke menneskeheden skulle acceptere ham som en lige intelligent livsform?
Det ser ud til, at der kan være mange helt forskellige digitale sind, meget mere forskellige end menneskelige. Selvom vi tror, at vi alle er meget forskellige - Moder Teresa, Hitler, den smarteste person i verden og den dummeste - er vi alle frygtelig ens med hinanden, men hver af os er ikke meget forskellig fra nogen anden menneskelig hjerne. Alt dette er omkring halvandet kg hundreder af milliarder af neuroner. Men digitale sind kan være meget, meget forskellige og "fremmede" for os (nogle kan selvfølgelig svare til vores, og nogle - ikke).
På samme tid tror jeg, at nogle digitale sind (især dem, der vil have bevidsthed, vil være i stand til at føle smerte, pres osv.) Får tildelt forskellige graderinger af moralsk status. Når vi udvikler mere og mere sofistikeret og sofistikeret kunstig intelligens, det digitale sind, bliver vi nødt til at stå over for et vist etisk spørgsmål. Og ikke kun om, hvordan AI vil påvirke os, eller hvordan en person kan anvende AI i forhold til en anden person, men også om, hvordan vi vil forholde os til dette digitale sind.
Antag, at jeg byggede en lille varde sten og ødelagde den - jeg skadede ingen. Hvis du selvfølgelig bygger den, og jeg ødelægger den, kan det skade dig, men selve varden har ingen moralsk status. Og sig, en hund har det, og derfor er det forkert at sparke en hund. Det er det samme med et bevidst digitalt sind, selvom dens bevidsthed først er på samme niveau som et dyrs. Dette rejser det etiske spørgsmål om, hvordan vi skal behandle det. Og jeg tror, at tiden snart kommer til at overveje dette alvorligt, ikke kun inden for rammerne af filosofiske seminarer, men også i en bred offentlig diskussion.
Ramme: filmen "Keepers".
Hvis vi taler om globale trusler, kan stigningen i antallet af autoritære regimer i verden betragtes som en af dem?
Ja, jeg tror, dette er et af de mulige scenarier for en dystopisk fremtid, der kan forestille sig, hvis forskellige sociopolitiske tendenser udvikler sig i den forkerte retning længe nok. Nogle avancerede teknologier kan muligvis gøre det lettere at udvikle disse tendenser: bedre borgerovervågning, mere avancerede droner …
For at regere et land, selvom du er en diktator, har du brug for støtte fra militæret og eliterne. Du kan forestille dig, at ved hjælp af kunstig intelligens teknologi og robotik, vil antallet af mennesker, der kræves til dette, konstant falde. I sidste ende kan det vise sig, at et dusin mennesker vil kunne styre befolkningen i et stort land, og dette giver rige muligheder for at bevare eksistensen af despotiske regimer.
Så ja - dette er en af risiciene, men der er også muligheden for, at disse sociopolitiske tendenser går i en anden retning.
Man snakker og skriver ofte om singleton - en statsforening, hvor beslutninger træffes af et enkelt verdensorgan …
Hvis man ser på vores arts historie, var oprindelig den største enhed med politisk integration kollektiver af jæger-samlere, bestående af højst 50 mennesker. Over tid blev stammer dannet under ledelse af ledere, derefter bystater og derefter nationalstater. Nu har vi foreninger som Den Europæiske Union, forskellige internationale organisationer, og dette vil fortsætte, indtil singleton vises. Det vil sige, det er en fortsættelse af mangeårige historiske tendenser.
Som jeg forstår det, postulerede du, at der kunne være to typer singleton: "dårlig" - autoritær og "god" - egalitær …
Jeg betragter overhovedet ikke en "dårlig" singleton nødvendigvis autoritær og en "god" - egalitær. Der er forskellige omstændigheder, hvor en singleton kan være "god" eller "dårlig".
Forklar venligst
Jeg ved ikke engang, hvordan man opsummerer det hele … Men du kan selvfølgelig forestille dig en "dårlig" egalitær singleton. Lad os sige, at han kan være inhabil eller ineffektiv af forskellige grunde. For eksempel, hvis alle lever lige så dårligt, ville det være et fuldstændigt egalitært resultat, ville det ikke? Men stadig dårligt.
Så der er en mulighed for, at en "god" autoritær singleton dukker op?
Nå, måske, sammenlignet med de forskellige alternativer, i en situation, hvor en velmenende diktator er ved roret … "God" og "dårlig" er relative udtryk, der bruges i betragtning af andre mulige situationer. Sig, hvis alternativet er en global katastrofe, ville resultatet være relativt godt.
Men hvad hvis du forestiller dig den perfekte egalitære singleton? Alt dette ligner en slags utopi, hvor mennesker lever uden konflikter og krige i fuldstændig harmoni. Men konflikter er iboende i den menneskelige natur
Den menneskelige natur er ikke støbt i bronze. Hvis vi overvejer den situation, hvor den teknologiske modenhed af civilisationen blev opnået (her mener jeg både bioteknologiske og kulturelle midler til at ændre dens forskellige aspekter), hvis målet om at nå det fælles gode er sat, kan dette være en god grund til at ændre den menneskelige natur.
Og hvordan nøjagtigt kan dette opnås? Bliv mindre aggressiv, mere imødekommende og så videre? Når alt kommer til alt, har folk en tendens til ikke at stole på fremmede, at gruppere sig i foreninger, der er imod andre foreninger
Ja, og det er deres valg og kan ændres. Men hvis en gruppe mennesker behandler en anden dårligt, kan de beslutte sig for ikke at ændre sig på en sådan måde, at de finder fælles grund med en anden.
Det vil sige, det er mest sandsynligt, at menneskelig adfærd ikke kan ændres på global skala?
Nemlig. Her taler vi om en ændring i motivation, og før det talte jeg om muligheden for en sådan ændring, når teknologiske muligheder opstår. Og så opstår selvfølgelig spørgsmålet, om folk vil beslutte at bruge dem til at nå dette mål.
Forresten, om teknologi. Vi er altid bange for nye teknologier. For eksempel læste jeg for nylig en søjle i en amerikansk publikation, hvis forfatter kampagne mod at opgive kontante papirpenge, fordi ikke-kontante betalinger angiveligt giver for mange muligheder for banker til at kontrollere befolkningen. Er du enig i dette synspunkt? Er dette virkelig en trussel mod samfundet?
Kontanter er en anonym sikkerhed. Du kan betale med pengesedler og ikke identificeres. Alt dette mindsker bankernes og statens evne til at kontrollere borgernes dagligdag, som under visse omstændigheder kan være ganske nyttig - for eksempel i despotiske regimer. Men af de samme grunde åbner det vejen for alle former for negative transaktioner. Kriminel aktivitet involverer anonyme betalinger, overførsel af pengesedler i konvolutter eller deres moderne modstykke - betalinger i cryptocurrencies. De er meget vanskeligere at udføre, siges det gennem VISA-systemet, hvor dine personlige data er knyttet til hver transaktion.
Så det er meget vanskeligt at beslutte, i hvilken retning”flyttes skyderen”. Der er forskellige scenarier, hvor du måske ønsker at have mere social kontrol over transaktioner for at gøre livet sværere for f.eks. Kriminelle organisationer. Da deres aktiviteter er skadelige for samfundet, vil du sandsynligvis have måder at begrænse dem på, og en sådan måde er at regulere finansielle transaktioner.
Dette er et eksempel. Hvad med aktivister, der opfordrer til forbud mod Uber og lignende tjenester, da de, siger de, krænker taxachaufførers rettigheder?
Jeg ved ikke, hvilke rettigheder Uber krænker. Jeg tror, de bare ikke ønsker konkurrence.
Tror du, at sådanne mennesker kan kaldes neoluddites?
Du er nødt til at se på argumentationen fra specifikke individer. Under alle omstændigheder tror jeg ikke, at mærkning af dem vil føre til en forståelse af deres position. Du er nødt til at lytte til deres argumenter og beslutte, om de er gode ud fra dit synspunkt eller ej.
Ramme: filmen "Equilibrium".
Lad os tale om transhumanisme. Der er en populær kritik af transhumanisme, hvorefter bioteknologi, kropsmodifikationer ikke vil være tilgængelige for fattige mennesker og borgere med gennemsnitlige indkomster. Kun de rige - den eneste procent af befolkningen - kan få dem, og dette vil føre til en katastrofal stigning i uligheden i samfundet. Det er ikke sandt? Eller synes du, alt er fair: de rige og succesrige skulle have det bedste?
Dette skal analyseres med specifikke eksempler. Jeg tror ikke, at al bioteknologi, der bruges til at forbedre den menneskelige krop, burde være dyr. Tag for eksempel moderne Modafinil, et stof, der bruges til at forbedre den kognitive ydeevne (lad os sige, at det hjælper nogle mennesker). Jo, det koster penge, men ikke mere end et glas Starbucks cappuccino, de drikker hver dag. Og hvis han gør sit job, er han sine penge værd.
Moderne farmakologiske midler, der på en eller anden måde forbedrer en persons egenskaber, er generelt ikke meget dyre. Snarere er problemet, at du har brug for at få recept til dem. Det er lettere at få et sådant lægemiddel til en person med god uddannelse. Først og fremmest vil han vide om eksistensen af dette middel, det vil være lettere for ham at finde en læge, han kender, som kan skrive ham denne recept … Alt dette vil være meget vanskeligere for en uuddannet arbejder eller bonde at gøre end for en intellektuel, en bankmand og så videre. Men hindringen ligger i dette og ikke i selve mængden af penge.
Hvis vi taler om fremtidens teknologier, kan de naturligvis være meget dyre og diskriminerende i denne forstand. Og samfundet bliver nødt til at beslutte, om de er nyttige nok til at subsidiere dem - i samme forstand, at der nu ydes tilskud til sundhedsvæsenet.
Hvis vi taler om tilskud, hvad synes du om den garanterede indkomst, det penge, som staten regelmæssigt betaler til hvert medlem af samfundet, uanset om han arbejder eller ej? Bør det blive en almindelig menneskelig praksis?
Jeg mener, at dette problem bør tages op fra samme synspunkt som kunstig intelligens: Det skal gavne hele menneskeheden og overholde etiske idealer. Det ser ud til, at alle mennesker, der når en bestemt alder, skal få deres andel af visse fordele. Hvordan man bedst gør dette, uanset om det vil være en konstant strøm af indkomst eller en bestemt kapital, der betales én gang, som en person derefter kan bruge efter eget skøn på visse tjenester og varer, ved jeg ikke endnu. At opretholde en uafbrudt indkomststrøm afhænger igen af den økonomiske situation. Og i det lange løb skal det forstås, at vi sandsynligvis bliver nødt til at stå over for en eksponentiel vækst i verdens befolkning, som kan overstige væksten i verdensøkonomien - et noget malthusisk argument.
Tror du, at det nuværende europæiske velfærdssystem - Welfer - har mangler?
Det forekommer ganske godt for mig. Der er selvfølgelig måder at forbedre det på. Men under alle omstændigheder er det godt, når der er et velfærdssystem i rige økonomier, der har råd til det.
Hvad synes du om moderne venstreorienteret politik - politisk korrekthed, inklusivitet og så videre? Arbejder hun virkelig til gavn for alle?
På den ene side fratager tilstedeværelsen af ting, som ikke kan tales og tænkes på mig som filosof nogle muligheder. Jeg tror, at den bitre sandhed undertiden er god, selvom den fornærmer nogen, og du er nødt til at betale en betydelig pris for at tabuere diskussionen om, hvad der er en del af den moderne virkelighed.
På den anden side, hvis dette bidrager til opbygningen af et mere følsomt samfund for samfundets problemer, hvis repræsentanter gør deres bedste for ikke at skade hinanden, hvilket reducerer niveauet for aggression og vold … Alt dette kan være en ekstremt positiv ting, selvom det i den nærmeste fremtid repræsenterer visse risici. Se, hvis du er ekstremt ivrig efter at være politisk korrekt om små daglige spørgsmål, er sandsynligheden for, at du har til hensigt at gennemføre en større og brutal etnisk udrensning eller starte en krig reduceret markant. Generelt, hvis det gør os mere følsomme over for små ting, vil det hjælpe i global forstand, og alle de små mangler ved sådanne programmer vil være absolut berettigede.
Jeg læste i en af dine publikationer, at den moderne vestlige kultur "aktivt saboterer vores frugtbarhed på grund af indførelsen af prævention." Et ret konservativt argument. Kan du forklare det?
Dette mente jeg: Hvis du ikke bruger prævention, vil du få flere babyer, hvilket betyder, at flere babyer vil overleve. Nu føder folk færre børn end de kunne, hvilket betyder, at de ikke er i evolutionær balance med det moderne miljø.
Bør vi give den primære rolle til biologisk evolution snarere end social?
Jeg mener, at først og fremmest hovedrollen skal spilles af universelle menneskelige værdier og ikke nogle biologiske opgaver.
Så hvorfor ikke bruge prævention?
Selvfølgelig kan du sabotere dit reproduktionspotentiale, men du skal være opmærksom på, hvad du laver, og det er meget gavnligt. For eksempel, hvis du overvejer langsigtede scenarier for udvikling af menneskelig civilisation, skal du tage højde for, at mennesker, der saboterer reproduktionspotentialet, på en eller anden måde vil forsvinde fra jordens overflade. Deres gener vil ikke være i den planetariske genpool, medmindre denne politik ændres.
Nu på kort sigt behøver du ikke at tænke over det, men du skal være opmærksom på, at du her handler imod forskellige evolutionære tendenser. Og det er vigtigt at erkende, at dette vil have en vis effekt i det lange løb.
Ramme: filmen "Lucy".
Fungerer biologisk udvikling stadig i det menneskelige samfund?
Selvfølgelig. Det fungerer i den menneskelige befolkning, ligesom det gør i andre populationer. Naturligvis er det moderne miljø, hvor vi lever, meget forskelligt fra miljøet med evolutionær tilpasningsevne, men jeg tror, at der lige nu er et meget stærkt evolutionært valg i den menneskelige befolkning. På den økologiske tidsskala går det hurtigt, men siger i forhold til tidsskalaen for teknologisk fremgang tværtimod meget langsomt. Selv når udvælgelsen er meget hurtig, skal mange generationer gå, før der sker et stort skift. På samme tid tror jeg, i mindre end et par generationer, vil vi modtage perfekte værktøjer til at manipulere det menneskelige genom og andre muligheder for at ændre den menneskelige tilstand. Derfor er jeg ikke særlig bekymret over de langsomme tendenser inden for biologisk udvikling i betragtning af udsigten til sådanne teknologier i horisonten.
Bør vi vælge vejen for forbedring af genpoolen gennem bioteknologi - valg af de "dårlige" gener og bevarelse af de "gode"? Vil dette ikke føre til social darwinisme?
Jeg tror ikke, at genetisk medicin eller genetisk selektion forudsætter en social darwinistisk tilgang. Du kan se, hvordan dette sker nu: når par beslutter at gennemgå in vitro-befrugtning, gennemgår embryonerne genetisk diagnostik. I stedet for blot at kontrollere celler for kromosomale abnormiteter, kan vi diagnosticere en lang række problemer, inklusive dem, der ikke er relateret til sygdom. For eksempel disponering for et langt sundt liv, intelligens, atletisk evne, personlighedstræk … Du har flere oplysninger for at vælge, hvilket af 6-8-10 embryoner, der skal implanteres under IVF-proceduren. Og det forekommer mig, at netop denne sammenhæng mest sandsynligt er med hensyn til brugen af genetiske teknologier.
Du er forfatteren af "beviset på simulering", hvorefter vi muligvis lever i en virkelighed, der er simuleret på en slags computer. Hvordan kan en almindelig person forestille sig dette? Det er svært at fordøje i starten
Jeg forstår ikke helt, hvilken opgave du sætter. Du skal bare acceptere, at intet ændrer sig, det er bare, at grundlaget for denne observerbare virkelighed, i hvilken vi findes, ikke er de grundlæggende fysiske love, men en slags computerprogram indlejret i en computer, skabt af nogle avancerede intelligente væsener - måske mere avancerede i teknologiske vilkår civilisation (sandsynligvis superintelligent). Så alt, hvad vi ser, er processerne, der kører på denne computer, men for indbyggerne i denne simulering - os - er der ingen stor forskel i, hvad der er dens base.
Det er mere interessant at tænke på de praktiske grunde til at skabe en sådan simulering. De kan være forskellige, dets forfattere kan køre andre simuleringer for at løse andre problemer. Der er mange muligheder for, hvordan simuleringen kan ende - og så videre. Det betyder virkelig noget i sammenligning med en situation, hvor denne virkelighed ville være grundlæggende.
Hvis vi taler om en computer, der simulerer virkeligheden, hvad så med fysikkens love? En sådan computer vil være gigantisk og vil forbruge en ufattelig mængde energi, ellers hvordan beregnes hver elementær partikel?
Jo da. Derfor tror jeg ikke, at denne civilisation vil efterligne alle detaljer i virkeligheden, ned til atomer. Jeg mener, at det er mere rationelt at efterligne de dele af virkeligheden, som vi observerer på det tidspunkt, hvor vi observerer dem (måske nogle flere).
Tag for eksempel atomerne på det bord, du sidder ved. Du har ingen idé om, hvad der sker med dem nu. Du behøver kun at kende bordets dimensioner, dens farve, dens vægt. Og i simuleringen vil det være nok at kun beregne disse attributter. Hvis du tager et elektronmikroskop og lægger et stykke bord under det, vil du se flere detaljer, der vil blive beregnet specielt til dette. Men de beregnes kun på en sådan måde, at du, en almindelig person, ikke vil bemærke nogen afvigelser.
Så hvis du er den superintelligens, der fuldstændigt kontrollerer virkeligheden - ned til alle aspekter af dens elementer, er det klogt at tilføje detaljer, når du er opmærksom på dem.
Det viser sig, at virkeligheden simuleres for alle syv milliarder mennesker, der bor på jorden? For dyr? For udlændinge?
Det hele afhænger af simuleringstypen. Hvis vi taler om simulering for alle levende mennesker, kan man forestille sig, at den dækker hele menneskehedens historie og blev lanceret for nylig. Du kan også forestille dig, at der udføres en simulering for en bestemt person eller en lille gruppe mennesker. Så opstår selvfølgelig spørgsmålet: hvordan er alle de andre mennesker, vi ser i det, her, mens de ikke er bevidste væsener? Måske simuleres de kun med hensyn til deres udseende, som avatarer, der findes i videospil. Der gjenstår et uafklaret spørgsmål: hvordan man kan efterligne den eksterne adfærd hos mennesker uden at producere som bivirkning bevidsthed, som, som vi normalt antager, at enhver person besidder? Så skabes sandsynligvis en troværdig person med hensyn til adfærd,du bliver nødt til at simulere de processer, der finder sted i hans hjerne med særlig nøjagtighed, som på en eller anden måde skal føre til opståen af et bevidst sind. Selvom der naturligvis findes en mulighed for, at du simpelthen kunne falske den. Og så kan vi forestille os eksistensen af en lille gruppe simuleringsfolk, hvor bevidstheden har udviklet sig fuldstændigt, mens resten bare er ekstramateriale.
I henhold til din hypotese kan der være mange simuleringer i en simulering - ligesom hekkedukker. Er eksistensen af et grundlæggende, ikke imiteret univers obligatorisk i dette tilfælde? Hvordan virkede det, og hvad er det?
Mit argument antager, at der er et grundlæggende niveau af fysisk virkelighed, hvor nogle skabninger udvikler sig, bliver ekstremt teknologisk avancerede, bruger disse teknologier til at opnå superintelligens (eller superintelligent kunstig intelligens), og så har de en masse ressourcer og tid. De bruger det, inklusive at oprette disse simuleringer af intelligente mennesker - måske ligesom os.
Måske tillader de, at simuleringen fortsætter med at fungere, når disse mennesker har oprettet deres simulering, som derefter bliver en simulering på andet niveau. Men alt dette vil eksistere på en computer oprettet af en civilisation, der findes på det grundlæggende niveau af fysisk virkelighed, og på samme tid kan der være et helt hierarki af simuleringer i simulering. Men her vil der være en specifik grænse for alt dette, da imiteringen i sidste ende udføres på en computer, der findes på det grundlæggende niveau af den fysiske virkelighed. Der er grænser for den tilgængelige energi til at opretholde disse kapaciteter, og derfor en grænse for antallet af indlejrede simuleringer. Selvfølgelig kan du tage en vis esoterisk tilgang, prøv at finde smuthuller til uendelig reden, men jeg synes ikke, det er værd at gøre.
Hvad hvis de simulerer verdener, hvor fysikkens love er helt forskellige fra vores?
Dette er også muligt, de kan oprette en slags fantastiske simuleringer.
Nå, hvis vi lever i en simulering, hvad er da poenget med at lave planer, forudsige globale risici … Det eksistentielle spørgsmål - hvad er poenget med livet i en simulering, når dens skabere simpelthen kan slukke for computerens strøm og alting vil ende?
Generelt betyder”bevis på simulering” ikke, at vi lever i en simulering, men snarere om grænserne for, hvad vi kan tro på. Det antages, at en af tre udsagn er sand. Den første er, at vi lever i en simulering, men der er to alternativer. Det andet er, at alle civilisationer dør ud, før de når teknologisk modenhed, og den tredje er, at alle modne civilisationer mister interessen for at skabe sådanne simuleringer, de beslutter simpelthen ikke at gøre dem.
Men inden for rammerne af vores argument, hvis vi virkelig lever i en simulering, ser jeg ikke, hvorfor meningen med hverdagen afhænger af det faktum, at grundlaget for vores virkelighed er efterligning skabt af en eller anden avanceret civilisation og ikke de grundlæggende fysiske love. Under alle omstændigheder afhænger det af dine handlinger, hvad der vil ske med dig derefter, hvad der vil ske med dine slægtninge, venner og andre mennesker. Så hvad du gør i simuleringen betyder noget, selvom det ikke gør det uden for det.
Derudover er der en mulighed for, at hvad der sker inde i simuleringen, påvirker, hvad der er uden for den. Måske har skaberne udviklet det til videnskabelige formål for at studere, hvad folk gør, og dette påvirker, hvad de gør, fordi det er vigtigt for dem at forstå den menneskelige natur baseret på de valg, vi træffer. Så der kan være et ekstra sæt konsekvenser ud over det åbenlyse.
Interviewet af Mikhail Karpov