Hvis du nogensinde har spillet rollespil - uanset om det er online eller i den gammeldags baggård - ved du, hvor let det er at blive knyttet til din avatar, det vil sige at vænne sig til rollen som "kosackrøver". Du føler bogstaveligt talt smerte, når en karakter bliver slået af et trold, stegt af en drage eller dræbt af en shaman. Den amerikanske sociolog (og ivrig spiller) William Sims Bainbridge tog dette forhold endnu mere ved at skabe virtuelle repræsentationer af 17 afdøde familiemedlemmer. I et essay fra 2013 om online-avatarer forestiller han sig et tidspunkt, hvor vi kan indlæse vores personlighed i en kunstig intelligent simulering af os selv, der kan handle uafhængigt af os og endda forblive efter at vi dør.
Hvilket ansvar kan vi lægge på disse simulerede mennesker? Mens vi er mistænkelige over for voldelige computerspil, betragter ingen det alvorligt for mord at undergrave en virtuel angriber. Det er imidlertid ikke længere absurd at forestille sig, at engang modellerede mennesker vil eksistere og også har en vis grad af autonomi og bevidsthed. Mange filosofer mener, at et sind som vores ikke behøver at blive gemt i netværket af neuroner i vores hjerne, men kunne eksistere i forskellige slags materielle systemer. Hvis de er korrekte, er der ingen grund til at tro, hvorfor magtfulde computere ikke kunne gemme bevidstheden i deres chips.
Vil du dræbe en digital flue?
I dag forsøger mange moralske filosofer at forstå etikken ved at ændre den menneskelige befolkning og stille spørgsmål som disse: Hvad koster det menneskelige liv? Hvilken slags liv skal vi stræbe efter at forme? Hvor meget værdi skal vi investere i menneskelig mangfoldighed? Men når det kommer til etik ved håndtering af modellerede enheder, er det ikke helt klart, om vi skal stole på den samme logik og intuition, som vi bruger i vores verden af kød og blod. Dybt nede i vores sjæle føler vi forkert at dræbe en hund eller endda en flue. Men ville deaktivering af flyve - eller menneskelig hjernemodel - dræbe? Når”livet” antager nye digitale former, kan vores egen oplevelse ikke længere fungere som en pålidelig moralsk ledsager.
Adrian Kent, en teoretisk fysiker ved University of Cambridge, besluttede at udforske dette hul i moralsk ræsonnement. Antag, at vi har lært at efterligne den menneskelige bevidsthed på en computer billigt og enkelt, skriver han i en af artiklene. Vi vil gerne give denne virtuelle væsen et rige og givende miljø for kommunikation - et liv værd at leve. Måske kunne vi gøre dette med rigtige mennesker ved at scanne deres hjerner i detaljer og gentage dem på en computer. Man kan forestille sig, hvordan en sådan teknologi”redder” folk fra en dødelig sygdom; nogle transhumanister ser dette som vejen til udødelig bevidsthed.
Naturligvis kan alt dette være en drøm om drømmen - men lad os antage det modsatte. Lad os nu få fat på et sæt utilitaristiske moralske principper, der blev indført af Jeremy Bentham i slutningen af det 18. århundrede og efterfølgende raffineret af John Stuart Mill. Alt overvejet, sagde Bentham, bør vi bestræbe os på at bringe maksimal lykke (eller "nytte") til så mange mennesker som muligt. Eller, i Mills ord, "handlinger er berettigede i forhold til, hvor glade de er, og ikke retfærdiggjort, hvis de fører til mangel på lykke."
Principperne for god opførsel har mange kritikere. Hvordan kan vi for eksempel måle eller sammenligne typer af lykke - veje værdien af en bedstemors kærlighed, for eksempel på de samme skalaer med beundring for en virtuos koncertpianist?”Selv hvis du vil tage utilitarisme alvorligt, ved du ikke, hvilke kvaliteter du lægger i dine beregninger virkelig betyder noget,” siger Ken. Imidlertid accepterer de fleste trossystemer i dag som standard, at et moralsk kompas, der peger mod større lykke, klart er at foretrække fremfor et, der ser væk fra det.
Salgsfremmende video:
I henhold til Kent's scenario, hvis vi går ud fra utilitaristiske motiver, kan det antages, at vi skal bevæge os fremad og multiplicere vores modellerede eller simulerede væsener - lad os kalde dem sims - uden begrænsninger. I den virkelige verden har sådan ukontrolleret formering åbenlyse ulemper. Mennesker vil lide følelsesmæssigt og økonomisk sammen med en stor familie; overbefolkning lægger allerede pres på de globale ressourcer, og så videre. Men i den virtuelle verden er der muligvis ikke sådanne grænser. Du kan oprette en utopi med næsten ubegrænsede ressourcer. Hvorfor kan du da ikke skabe så mange verdener som muligt og fylde dem med glade simmer?
Vores intuition antyder svaret: men hvorfor? Måske har en bevidst simpelthen simpelthen ikke den samme indre værdi som en person af kød og blod? Dette punkt udtrykkes af Michael Medery, en sindsfilosofi og virtual reality-etiker ved Tulane University i New Orleans, og mener, at det bør tages alvorligt.
Nogle filosoffer mener, at vi selv kan være lignende simulerede væsener. Vi kan simpelthen ikke udelukke en sådan mulighed, men vi betragter ikke desto mindre disse spørgsmål som meningsfulde. Så man kan også antage, at simmere har ret til at stille spørgsmål.
Kent stiller igen spørgsmålet: hvad ville være mere korrekt - at skabe en population af identiske væsener eller helt forskellige? Det er klart, det ville være mere effektivt at skabe identiske væsener - nok information om en til at skabe N af dem. Men vores instinkter fortæller os, at mangfoldighed har mening og værdi. Og hvorfor undrer jeg mig over, om der ikke er nogen grund til at tro, at N forskellige individer vil være lykkeligere end N identiske.
Kent's tilgang er, at forskellige liv foretrækkes frem for flere eksemplarer af det samme.”Jeg kan ikke slippe af med tanken om, at et univers med en milliard uafhængige identiske emuleringer af Alice vil være mindre interessant og af mindre kvalitet end et univers med en milliard forskellige individer,” siger han. Han kalder dette begreb replikering mindreværd.
Hvis vi betragter kosmos beboet af milliarder af Alice, er det virkelig værd at tale om et liv, ganget mange gange, eller taler vi om et liv spredt over mange verdener. Det kan følge heraf, at mange Alice i et identisk miljø ikke har mere end én værdi. Han kalder dette scenario ubrugeligheden ved gentagelse. "Jeg er tilbøjelig til den opfattelse," siger Kent og indrømmer dog, at han ikke kan finde et ubestrideligt argument til sit forsvar.
Kent's tankeeksperiment berører flere gamle mysterier om moralsk filosofi, der aldrig er blevet løst. Den engelske filosof Derek Parfit, der døde sidste år, talte om dem i sit monumentale arbejde om personlighed og selvtillid, Reasons and Personalities (1984). Parfit overvejede spørgsmål som hvor mange mennesker der overhovedet skulle være, og om det altid vil være moralsk bedre at tilføje et liv værd at leve til verdens stress og jag, når vi får muligheden.
Selv hvis du accepterer det utilitaristiske synspunkt, er der problemet med at finde den største lykke for det største antal: dobbelte kriterier skaber tvetydighed. Forestil dig for eksempel, at vi har kontrol over, hvor mange mennesker, der lever i en verden med begrænsede ressourcer. Man skulle tro, at der skulle være et optimalt antal mennesker, der (i princippet) vil udnytte ressourcer bedst til at sikre lykke og velstand for alle. Men ville der ikke være plads i en sådan utopi for en anden person? Ville det ikke være acceptabelt at formindske alles lykke lidt for at sikre et andet lykkeligt liv?
Problemet er, at denne proces ikke har nogen ende. Når antallet stiger, kan den ekstra lykke ved nye liv opveje omkostningerne for dem, der allerede er i live. I sidste ende, siger Parfit, kommer du til en "modbydelig konklusion": et scenario, hvor det bedste resultat ville være en oppustet befolkning af mennesker, der er håbløst ulykkelige, men bedre stillet end der ikke var noget liv overhovedet. Sammenlagt tilføjer deres magre rester af lykke mere end summen af et lille antal virkelig glade mennesker. "Det er svært for mig at acceptere denne konklusion," skrev Parfit, men kan vi retfærdiggøre denne tilgang? Kent ved det ikke.”Jeg ved ikke, om der kan være nogen afbalanceret beslutning om den ulækkelige inferens,” siger han.
I roden af dette spørgsmål er, hvad Parfit kaldte "problemet med ikke-identitet": Hvordan kan vi rationelt resonere over spørgsmålene fra bekymrede individer, hvis deres eksistens afhænger af de valg, vi træffer (som at finde et sted til "et andet")? Afvejning af fordele og ulemper, der kan påvirke et individ, afhængigt af de beslutninger, vi træffer, er i princippet ikke så svært. Men givet muligheden for, at denne karakter aldrig har eksisteret, ved vi ikke længere, hvordan vi beregner. Sammenlignet med nul eller intethed, vil alt være en sejr, så selv de værste scenarier med eksistens kan være moralsk berettigede.
Der er et andet meget mærkeligt scenario i dette utilitaristiske befolkningspil. Hvad hvis der var mennesker med et så stort behov for lykke, at de ville kræve mere fra andre, end de havde råd til at give? Den amerikanske filosof Robert Rozick kaldte denne skabelse et "utilitaristisk monster" og kritiserede den i sin bog Anarchy, State and Utopia (1974). Ifølge Nozick vil dette billede "kræve, at vi alle ofrer for monsterets skyld for at øge vores samlede nytteværdi." Meget af Parfits bog var et forsøg - i sidste ende ikke - vellykket - at undslippe både den grusomme konklusion og det utilitaristiske monster.
Lad os nu vende tilbage til Kent's virtuelle verdener fulde af simmere og hans princip om ufuldstændig replikation - når et vist antal forskellige liv er mere værd end det samme antal identiske. Måske vil dette give os mulighed for at undgå Parfits forfærdelige konklusion. På trods af hvad Leo Tolstoy sagde om uligheden i ulykkelige familier i begyndelsen af Anna Karenina (1878), ser det ud til, at et stort antal ulykkelige liv vil være næsten det samme i deres dystre tristhed. Derfor vil det ikke være muligt at samle dem op og øge den samlede lykke drop for drop.
Men på samme måde forkæver replikationens mindreværd det utilitaristiske monster - pr. Definition skal det være unikt og derfor mere "værd" i forhold til den uundgåelige lighed i de liv, der fodrer det. Denne beslutning tilfredsstiller os heller ikke.”Det ville være rart, hvis folk på en eller anden måde tænkte mere på disse problemer,” indrømmer Kent. "Jeg er lidt forvirret af dem."
For den amerikanske libertariske økonom Robin Hanson, professor i økonomi ved George Mason University i Virginia, er disse reflektioner ikke så meget mentale eksperimenter som forudsigelser om fremtiden. Hans bog "The Age of Em" præsenterer et samfund, hvor alle mennesker uploader deres bevidsthed til en computer for at leve deres liv i form af "emuleringer" (ikke simmer, men emas).”Milliarder af sådanne downloads kunne bo og arbejde i en højhus, og der ville være plads til alle,” skriver han.
Hanson undersøgte detaljeret, hvordan en sådan økonomi kunne fungere. Ems kan være af en hvilken som helst størrelse - nogle af dem vil være meget små - og tiden kan gå anderledes for dem sammenlignet med mennesker. Der vil være tæt tilsyn og en lille løn, men ems kan slippe af med denne lidelse ved at vælge et liv uden arbejde. (Hanson mener, at vi allerede kan leve i en sådan verden.)
Dette scenarie giver mulighed for at kopiere sig selv, da sindet allerede er overført til computeren, så det er ganske enkelt at kopiere. Hanson siger, at identitetsproblemet i denne sag er sløret: duplikater er "den samme person" oprindeligt, men gradvist afviger deres identitet, når de begynder at leve separat.
Hanson foreslår, at det ikke kun er muligt, men ønskeligt at duplikere mennesker. I den kommende emusalder vil mennesker med særlig værdifulde mentale evner "blive belastet" mange gange. Og generelt vil folk alligevel ønsker at fremstille flere kopier af sig selv som en form for forsikring. "De foretrækker muligvis afskedigelse i deres egen implementering for at sikre, at de kan overleve uventede katastrofer," siger Hanson.
Men han tror ikke, at de foretrækker Kent's scenarie med identiske liv. Ems “lægger ikke nogen særlig værdi på at leve det samme liv på forskellige tidspunkter og forskellige steder. De vil investere værdi i flere kopier, fordi disse kopier kan arbejde eller kommunikere med andre. Men denne form for arbejde og forhold kræver, at hver kopi er årsagsafhængig og deres historier sammenflettet på baggrund af opgaver eller som partnere.”
Under alle omstændigheder bliver dem nødt til at kæmpe med moralske vanskeligheder, som vi endnu ikke kan overvurdere.”Jeg tror ikke, at den moral, mennesker har, er generel nok eller robust nok til at give selvsikre svar på situationer som denne, der er så langt fjernet fra vores” forældres”oplevelse,” siger Hanson. "Jeg forudsiger, at emus vil have mange forskellige modstridende meninger om sådanne ting."
Ems, sims og vores virtuelle fremtid
Nu kan alt dette lyde meget mærkeligt, ligesom apokryfe middelalderlige samtaler om engle, der danser på tå. Vil vi nogensinde være i stand til at skabe virtuelt liv, der overhovedet ligner det virkelige liv? "Jeg tror ikke, at nogen med sikkerhed kan sige, om dette er muligt eller ikke," siger Kent, delvis fordi "vi ikke har en god videnskabelig forståelse af bevidsthed."
Alligevel går teknologien fremad, og disse spørgsmål forbliver åbne. Den svenske filosof Nick Bostrom fra Institute for the Future of Man argumenterede for, at den computerkraft, der er til rådighed for den "posthuman" civilisation, ville gøre det let at simulere væsener, der lever i verden og føle det så reelt som vi er vores egne. (Bostrom mener også, at vi kunne leve i en sådan simulering.) Men at spørge, hvordan vi kan befolke sådanne verdener, giver "et reelt dilemma for fremtidens programmører, videnskabsfolk og lovgivere, om end ikke så fjernt," siger Kent.
Kent's scenario kan allerede have virkninger på den virkelige verden. Argumenter for brugsmaksimering og problemet med ikke-identitet opstår i diskussioner om at fremme og forhindre menneskelig befrugtning. Hvornår skal du nægte at blive gravid i tilfælde af risiko, for eksempel ved at udvikle abnormiteter hos et barn? Ingen af de nye metoder garanterer fuldstændig sikkerhed og aldrig garanteres, men IVF ville aldrig blive gjort, hvis det var en forudsætning. En sådan teknik forventes at opfylde en bestemt risikotærskel. Men den utilitaristiske tilgang udfordrer denne idé.
Hvad hvis en ny assisteret reproduktionsmetode havde en moderat risiko for at udvikle små defekter ved fødslen, såsom fødselsmærker? (Dette er et reelt argument: Nathaniel Hawthornes historie fra 1843 fortæller om en alkymist, der med dødelige konsekvenser forsøgte at fjerne mærket fra sin kone under henvisning til Det amerikanske bioetiske råd i 2002). Det er vanskeligt at sige, at personer, der er markeret med et sådant sted, vil være værre end andre, og derfor bør de ikke tages i betragtning ved metoden. Men hvor skal linjen trækkes? Hvornår er en fødselsdefekt bedre at slet ikke blive implementeret?
Nogle har nævnt dette dilemma i deres forsvar for menneskelig kloning. Vilfarer, såsom social stigma eller fordrejet forældremotiv og forventninger, opvejer fordelene ved at give liv. Hvem skal vi tage valget for det klonede menneske? Hvem vil vi være, hvis vi træffer dette valg, før mennesket endda eksisterer?
Denne form for ræsonnement ser ud til at kræve, at vi træffer guddommelige beslutninger. Men en feministisk observatør kan måske tro, at vi er offer for en version af Frankensteins fantasi. Med andre ord, er dette ikke en flok mænd, der drømmer om endelig at begynde at fremstille mennesker, når kvinder har gjort dette i århundreder? Følelsen af nyhed, der fører til alle disse kontroverser, har en patriarkalsk smag.
Alligevel rejser perspektivet på virtuel bevidsthed nogle meget friske og fascinerende etiske spørgsmål - som ifølge Kent fører os til at udfordre den intuitive værdi, vi lægger i livet og demografien. Det er ekstremt vanskeligt at se et stærkt argument for det faktum, at et vist antal forskellige liv vil være moralsk bedre end det samme antal af det samme. Hvorfor tror vi det? Hvordan kan vi slippe af med fordomme?
Man kan sige, at den opfattede homogenitet i menneskelige befolkninger eroderer evnen til empati og etisk ræsonnement. Den "ansigtsløse" skare, som er modsat af individet, er en velkendt kliché, der fremkalder en følelse af heroisme. Men dette er ikke nødvendigvis korrekt.
Måske har vi en evolutionær modvilje mod de samme individer, især når du overvejer, at den genetiske mangfoldighed i en befolkning sikrer dens overlevelse? Tænk bare på film om identiske tvillinger eller kloner - det ser ikke altid godt ud. Det ser endda ildevarslende ud. I 1919 forbandt Sigmund Freud denne følelse med ideen om en ond dobbelt (doppelganger). Og hvis dette stadig er forståeligt i tilfælde af identiske tvillinger, vil hundrede "identiske" karakterer se frygtelige ud.
Det ser ikke ud til, at vi snart står over for hæren af dubletter, i den virkelige eller virtuelle verden. Men værdien af tankeeksperimenter er, at de giver dig en ny måde at give mening om verdens spørgsmål. Ved at forestille os etikken i vores forhold til simmere, afslører vi rystende eller ikke-eksisterende logik, som vi instinktivt bruger til at veje den moralske værdi af vores egne liv.
Ilya Khel
