Jo dybere vi springer ind i det 21. århundrede, jo tydeligere opstår de fantastiske muligheder, der åbnes foran os. Og jo tydeligere oplever vi mørke følelser, når vi tænker på dem. Her er ti skræmmende teknologier, der aldrig ville have eksisteret. Når du bliver fortrolig med dem, vil det blive tydeligt, at mange af disse teknologier kunne udnyttes godt. Men det er vigtigt at trække en skillelinje mellem teknologien som sådan og hvordan den kan bruges.
Tag f.eks. Nanoteknologi. Efterhånden som de udvikles, kan de bruges til at afslutte den igangværende knaphed, rydde op i miljøet og genskabe menneskets biologi. Men de kan også bruges til at ødelægge vores planet meget hurtigt. Så når tiden er inde til at udvikle og bruge disse futuristiske teknologier, bliver vi nødt til at nærme os ansvarligt. Måske kommer vi til den konklusion, at en separat række af teknologisk udvikling og de risici, der er forbundet med den, ikke er fordelene værd. For eksempel kunstig superintelligens.
Nogle teknologier er objektivt farlige. Her er hvad Patrick Lin, direktør for Ethics + Emerging Sciences Group ved California Polytechnic State University, har at sige:
”Tanken om, at teknologien er neutral eller ikke er relateret til moral, er en myte, der skal fjernes. En designer kan formidle etik til en skabelse, selvom objektet ikke har noget moralsk middel i sig selv. Denne funktion kan være for subtil i de fleste tilfælde, men nogle teknologier er født af ondskab og har ingen gavnlig anvendelse, såsom gaskamre. Desuden kan teknologien i sig selv være god eller dårlig, men enhver er enig i, at de fleste teknologier har både gode og dårlige anvendelser. Hvis sandsynligheden for, at en teknologi bruges i ondskabens navn, er større end i det gode, er det måske ikke værd at udvikle denne teknologi."
Militær nanoteknologi
Næppe noget andet kan afslutte vores regeringstid på Jorden hurtigere end den militære - eller stærkt mangelfulde - nanoteknologi med molekylær samling.
Denne trussel stammer fra to ekstremt magtfulde kræfter: ukontrolleret selvreproduktion og eksponentiel vækst. En nihilistisk regering, ikke-statlig agent eller privatperson kan udvikle mikroskopiske maskiner, der forbruger kritiske ressourcer på vores planet i hastighed af en ild (meget hurtigt), samtidig med at de multiplicerer i enorme antal og efterlader ubrugelige biprodukter på deres vej - futurister kalder dette scenario "grå slim."
Salgsfremmende video:
Nanoteknologi-teoretikeren Robert Freitas har foreslået flere mulige scenarier for fremkomsten af nanoteknologi, der er ødelæggende for planeten, herunder grå støv, grå plankton, grå lav og såkaldte biomassedræbende. Gråt støv dækker os over sollys; grå plankton vil bestå af havbundbundsreplikatorer, der vil føde sig på hele den jordbaserede kulstofrige økologi; grå lav ødelægger jordbunden geologi, og biomassedræbende angriber forskellige organismer.
Ifølge Freitas vil det værste tilfælde af "global økofagi" tage omkring 20 måneder, hvilket vil være mere end nok til at designe et effektivt forsvar. Ved beskyttelse betyder Freitas modforanstaltninger i form af selvreplikerende nanoteknologi eller et system, der deaktiverer nanoboters interne maskiner. Alternativt kunne vi indsætte aktive skjolde på forhånd, men de fleste nanoteknologiske eksperter er enige om, at dette ville være ubrugeligt. Derfor vil det være nødvendigt at udvikle og opretholde et moratorium for oprettelsen af militær nanoteknologi.
Intelligente maskiner
En dag præsenterer vi maskiner med kunstig bevidsthed, dette er allerede taget for givet. Men inden vi går videre mod en sådan fremtid, er vi nødt til at tænke meget seriøst. Det kan være for grusomt at opbygge en funktionel hjerne inde i en computer - og det gælder både dyre- og menneskelige emuleringer.
Tilbage i 2003 argumenterede filosofen Thomas Metzinger for, at det ville være uhyrligt uetisk at udvikle software, der kan lide:
”Hvad ville du sige, hvis nogen kom og sagde: 'Vi vil genetisk modificere mentalt retarderede babyer! Af en eller anden grund, der tilfredsstiller videnskabelige fremskridt, har vi brug for babyer med visse kognitive og følelsesmæssige handicap for at studere deres psykologiske udvikling efter fødslen - vi har presserende behov for midler til denne vigtige og innovative type forskning! Du ville tro, at dette ikke kun er absurd og tvivlsomt, men også en farlig idé. Ingen etisk kommission i en demokratisk verden vil gå glip af det. De nuværende etiske komitéer ser imidlertid ikke, at de første maskiner, der opfylder minimumsbetingelserne for bevidst erfaring, kan være mentalt retarderede babyer. De kan lide af alle mulige funktionelle og repræsentative underskud. Og de vil subjektivt mærke dette underskud. Desuden,de har ingen beskyttelse og ingen repræsentation i etiske komiteer."
Futurolog Louis Helm er enig:
”Computere er især gode, fordi de kan tælle summen af millioner af kolonner i en tabel og ikke blive trætte eller kede sig. Da vi planlægger at bruge kunstig intelligens som erstatning for mental arbejdskraft, tror jeg, det ville være umoralsk at skabe intelligente programmer. At fængsel et bevidst væsen i en maskine og få det til at fungere for dig er praktisk talt slaveri. Desuden er bevidsthed skrøbelig. Flere forkodede gener hos mennesker kan forårsage Downs syndrom, skizofreni, autisme eller epilepsi. Hvordan føles det at have en forkert programmeret form for bevidsthed? For eksempel vil flere vel sponsorerede AI-udviklere ønske at genskabe det menneskelige sind i maskiner ved at efterligne den menneskelige hjernes biologiske struktur. Jeg forventer og endda et lille håb om, at disse første forsøg på modellering vil være for grove,for virkelig at brænde ud. Men hvis "vellykket", vil de første resultater sandsynligvis skabe en underlig, ubehagelig og omskåret tilstand af subjektiv oplevelse. Som programmør er jeg imod selvbevidst kunstig intelligens. Ikke fordi det ikke vil være sejt. Men fordi jeg er moralsk imod slaveri, tortur og dårlig kode."
Kunstig superintelligens
Som Stephen Hawking sagde tidligere på året, kan kunstig intelligens være vores værste fejl i historien. Vi har diskuteret mange gange, at fremkomsten af overmenneskelig intelligens kan være en katastrofe. Fremkomsten af systemer, der er meget hurtigere og smartere end os, vil kaste os i baggrunden. Vi vil være nådige over, hvad kunstig superintelligens vil - og det er ikke klart, om vi vil være i stand til at skabe en venlig kunstig intelligens. Vi bliver nødt til at løse dette problem så hurtigt som muligt, ellers kan udviklingen af kunstig superintelligens muligvis afslutte menneskeheden.
Tidsrejser
Det er ikke, at jeg stærkt tror på muligheden for tidsrejser (er vi ikke alle tidsrejser lige nu?), Men det bør ikke diskonteres. Desuden er vi nødt til at holde sig væk fra hende.
Tidsrejser kan være forbandet farligt. Enhver film om sammenfiltrede tidslinjer fortæller dig om potentielle farer, herunder grimme paradokser. Og selvom en eller anden form for kvantetidsrejse bliver mulig - når der oprettes helt nye og separate tidslinjer - vil kulturelle og teknologiske udvekslinger mellem forskellige civilisationer sandsynligvis ikke ende godt.
Mind Reading-enheder
Udsigten til maskiner, der kan læse folks tanker og minder på afstand eller ej, med eller uden deres samtykke, giver anledning til bekymring. Men det er usandsynligt, at det er muligt, før den menneskelige hjerne bliver tættere integreret med netværket og andre kommunikationskanaler.
Sidste år brugte for eksempel forskere i Holland hjerneskanninger og computeralgoritmer til at bestemme, hvilke bogstaver en person så på. Dette gennembrud viste evnen til at rekonstruere menneskelige tanker med et hidtil uset detaljeringsniveau af en tredjepart - inklusive hvad vi ser, hvad vi tænker og hvad vi husker. Hvis sådanne enheder falder i kløerne på et totalitært regime eller en politistat, vil livet blive umuligt og uudholdeligt. Verden vil være som Orwellian, hvor selv forbrydelser begået i tanker vil blive straffet.
Hjernen hacking enheder
Der er en mulighed for, at vores bevidsthed kan ændres sammen med vores viden og minder. Så snart vi får chipsene i hjernen, og alle barrierer falder, vil vores bevidsthed være åben for hele Internettet og al dets ondskab.
Vi har allerede taget det første skridt mod dette mål. For ikke længe siden begyndte en international gruppe neurologer med et eksperiment, der giver deltagerne mulighed for at kommunikere fra hjerne til hjerne via internettet. Cool, tror du måske, men denne form for teknisk telepati åbner en hel Pandoras kasse. En angriber kan muligvis ændre ofrets minder og hensigter. Men hvad hvis muligheden gives til hele organisationer eller paranoide regeringer?
Autonome robotter til at dræbe mennesker
Potentialet for autonome maskiner til at dræbe mennesker skræmmer alle - og dette er sandsynligvis det første punkt på dagsordenen, der begynder at kæmpe.
Futuristen Michael Latorra siger:
”Vi har endnu ikke maskiner, der har en generel intelligens tæt på det menneskelige niveau. Men for operationer af autonome robotter med dødbringende kapacitet kræves der ikke intelligens på menneskeligt niveau. Konstruktionen af alle slags robotmilitære køretøjer er allerede i fuld gang. Tankrobotter, fly, skibe, ubåde, robotsoldater - alt dette er muligt i dag. I modsætning til fjernstyrede droner kan militære robotter identificere mål og ødelægge dem uden at et menneske peger og beordrer at skyde. Farerne ved en sådan teknologi bør være åbenlyse, men bør ikke kun reduceres til truslen om "venlig brand", når robotter ved et uheld dræber mennesker på deres side af konflikten eller endda uskyldige borgere. Hvor lurer den større fare i det internationale våbenkapløb, der kan udfolde sig,hvis et land begynder at bygge autonome kamprobotter. Efter flere forbedringscyklusser kunne løbet om at skabe endnu mere kraftfulde militære robotter krydse tærsklen, hvor den nyeste generation af autonome robotter kan overvinde ethvert menneskekontrolleret militært system. Og så kan menneskeheden ved et uheld eller bevidst sætte sig i en forfærdelig position, blive knust af ofrene for kamprobotter."
Bekæmp patogener
Dette er et andet emne, der bekymrer mange. I 2005 bemærkede Ray Kurzweil og Bill Joy, at udgivelse af genomer af dødbringende vira til verden ville være en dræberopskrift. Der vil altid være en idiot eller en flok fanatikere, der tager disse oplysninger i brug og enten rekonstruerer virussen fra bunden eller modificerer eksisterende vira, hvilket gør dem endnu mere farlige og derefter frigiver dem til verden. Det er for eksempel blevet beregnet, at en modificeret fugleinfluenza kunne udslette halvdelen af verdens befolkning. Og forskere fra Kina har fuldstændigt kombineret fugle- og svineinfluenza og skabt en ægte mutant. Deres mål var naturligvis at forstå, genkende fjenden og udvikle mulige modforanstaltninger, før en reel pandemi brød ud. Men der er altid en fare for, at virussen undslipper fra laboratoriet og skaber kaos blandt mennesker. Eller at de ville tage ham i brug og lade ham komme ud af kæden.
Det er tid til at tænke over denne dystre mulighed, før der sker noget forfærdeligt.
Virtuelle fængsler og tortur
Hvordan vil tortur og fængsler være, hvis folk kan leve i hundreder eller tusinder af år? Hvad vil der ske med fangerne, hvis deres sind læsses ind i den virtuelle verden? Etikeren Rebecca Roach undersøger disse dystre scenarier:
”Fordelene ved udødelighed er åbenlyse - men sammen med det kan straffen øges. Hvis 30 års fængsel betragtes som for mild straf, kan gerningsmanden få en livstidsdom under hensyntagen til den øgede forventede levetid. En livstidsdom vil f.eks. Blive flere hundrede år. Sandt nok kan det være dyrere for samfundet at støtte sådanne kriminelle. Men hvis levetidsforlængelse bliver tilgængelig overalt, vil langlever uden tvivl bidrage i form af en langvarig arbejdsstyrke.
At downloade bevidstheden hos den person, der begik forbrydelsen og fremskynde den en million gange, giver ham mulighed for at "udarbejde" en forbrydelse med en straf på 1000 år på otte og en halv time. Det vil være billigere end at holde en kriminel med skatteydernes penge i de samme 1000 år. Denne koncentrerede straf kan efterfølges af rehabilitering, også i flere timer."
Dette er forfærdeligt. Vi håber, at menneskeheden ikke er enig i dette.
Skaber helvede
Denne mulighed svarer til den forrige. Nogle futurister forestiller sig skabelsen af paradis - brugen af avanceret teknologi, herunder upload af bevidsthed og virtual reality, der vil gøre Jorden til et paradis. Men hvis du kan skabe himlen, kan du skabe helvede. Dette udsyn er især skræmmende, når man overvejer den ubestemte forventede levetid samt de næsten ubegrænsede muligheder for psykologisk og fysisk straf. Det er svært at forestille sig, at nogen i princippet vil udvikle en sådan ting. Men at nogen kunne være kunstig superintelligens. Kan du huske Basilisk Roco-problemet?
ILYA KHEL