På trods af udbredt opmærksomhed på udviklingen af kunstig intelligens er der flere mennesker i verden, der mener, at potentialet for markant forbedret menneskelig intelligens (AI) er meget højere. Spørgsmålet om, hvad der kommer først forbliver åbent, men det antages, at en teknologisk avanceret hjerne kan være lige så magtfuld (og ærligt talt, så farlig) som AI.
Mennesket som art har udviklet sin tankegang gennem mange årtusinder. Eller i det mindste forsøgte at gøre det. I forsøget på at overvinde deres kognitive begrænsninger har mennesker brugt alt, hvad de kan, fra skriftlige, sproglige og meditative teknikker til moderne nootropics.
Hvorfor, i stedet for at forsøge at udvikle generel kunstig intelligens (AGI) eller endda kunstig superintelligens (ISI), ville det ikke være bedre at fokusere på den menneskelige hjerne og dens stadig langt fra fuldt afslørede potentiale? Når alt kommer til alt kan en betydelig forbedring i sindet - hvad enten det sker gennem genetik, cybernetik eller kræfterne fra eksterne enheder - føre til det samme resultat, som vi forventer af oprettelsen af avanceret AI.
Gizmodo-portalen besluttede at kontakte futurologen Mikhail Anisimov, bloggeren af portalen Accelerating Future og medstifteren af Singularity Summit-begivenheden og finde ud af de sandsynlige udsigter til udvikling af retningen til forbedring af den menneskelige hjerne. Anisimov tager dette spørgsmål meget alvorligt og mener, at vi bør være på vagt over for AI lige så meget som AI.
Michael, når vi taler om stigende intelligens, hvad mener vi egentlig med dette? Taler vi om at skabe nye Einsteins? Eller er det noget endnu mere ambitiøst?
Det virkelige mål med AI-retning er snarere at skabe "super-Einsteins", mennesker, der er meget smartere end nogen person, der nogensinde har boet på Jorden. Og for at nå dette mål, skal flere vigtige skridt tages.
Det første trin er at skabe en direkte neural forbindelse med information. Tænk på det som en slags "telepatisk Google-søgning".
Det næste er udviklingen af hjerne-computer-grænseflader, som vil forbedre arbejdet i den del af hjernen, der er ansvarlig for visuel opfattelse. Dette vil ikke kun forbedre vores vision, men også markant øge effektiviteten af informationsbehandling. Forestil dig, at du næsten med det samme vil være i stand til at oprette et komplekst skema af et objekt i detaljer i din hjerne, eller at du nu kan huske det skema, du har set, i detaljer. Der vil også være behov for forstørrelse på andre områder i den sensoriske cortex, der er ansvarlig for berøring og hørelse.
Salgsfremmende video:
Det tredje trin vil være at øge den prefrontale cortex. Dette er den hellige gral ved UI-forskning - der forbedrer effektiviteten af opfattelsen og integrationen af sensorisk information i koncepter. Slutresultatet vil være fremkomsten af mennesker, der er i stand til at demonstrere næsten umulige intellektuelle evner. Vi taler for eksempel om evnen til at kontrollere andre mennesker med fornuftens magt, forstå alle de vindende positioner på aktiemarkedet eller for eksempel at skabe opfindelser, der kan ændre verden på næsten en dag. Nu kan dette virke umuligt, ligesom vores moderne resultater syntes umulige i stenaldernes øjne. Men denne mulighed er virkelig reel.
Ser vi frem til de næste ti år, hvor vil AI udvikle sig? Kan den menneskelige hjerne virkelig konkurrere med den?
Den menneskelige hjerne kan virkelig ikke ændres for meget. Når alt kommer til alt er det allerede resultatet af syv millioner år med evolutionær optimering og finjustering, som jeg må indrømme, var meget vellykket i betragtning af dens begrænsninger. Og forsøg på at "overklokke" det som regel fører til dets fiasko, hvis vi overvejer problemet, i det mindste set fra et eksempel på virkningerne ledsaget af amfitaminafhængighed.
Trailer til filmen Områder med mørke
Kemikalier er ikke i stand til at styrke en persons kognitive evner. Og alt, hvad der gives til fordel for effektiviteten af de nuværende "hjerneacceleratorer" ser faktisk meget kontroversiel og tvivlsom ud. Reel succes kræver brug af hjerneimplantater, der forbinder til millioner af neuroner. Dette vil igen kræve millioner af små elektroder og et dedikeret kontrolsystem for at synkronisere dem alle. I dag har det mest avancerede computer-hjerne interface design omkring 1000 sådanne forbindelser i bedste fald. Med andre ord skal den moderne udvikling skaleres op mere end tusind gange for at opnå noget virkelig interessant. Selv hvis vi tager højde for den eksponentielle vækst, vil det tage mindst 15 til 20 år at opnå resultater.
Udviklingen af UI er primært baseret på fremskridt i udviklingen af nanoproduktion. Og resultaterne af ingeniører, der arbejder på hjernecomputergrænseflader, som f.eks. Ed Boyden fra Massachusetts Institute of Technology, afhænger helt af fremskridt i denne retning. I betragtning af det ubetydelige niveau for udvikling af produktionsteknologier på atomniveau, ser selvsamling på nano-niveau ud som den mest åbenlyse måde at udvikle hjernecomputergrænseflader med millioner af elektroder. Det skal bemærkes, at selvmontering på nano-niveau ikke er en atomnøjagtig fremstillingsmetode, men den er nøjagtig nok i henhold til standarderne for grundlæggende fremstilling og fotolitografi.
Hvad er nogle potentielle psykologiske bivirkninger for mennesker med markant forbedret intelligens? Kan de generelt betragtes som mennesker fra dette synspunkt?
En af de mest almindelige bivirkninger vil være sindssyge. Den menneskelige hjerne er en utrolig finstemt maskine. Og enhver ændring i dens driftsform fører til det, vi normalt kalder "vanvid". Der er mange forskellige slags sindssyge, langt mere end adfærdsmønstre i sund fornuft. For eksempel kan skjult sindssyge set ud fra det ydre miljø virke ganske sund adfærd, derfor vil vi sandsynligvis stå over for vanskeligheder med at identificere sådanne individer, der lider af sindssyge.
Selv med fuld fornuft kan der opstå forskellige bivirkninger, inklusive anfald, overbelastning af information og muligvis følelser af egomani og total fremmedgørelse. Smarte mennesker har en tendens til at føle sig mere fremmedgjort fra verden omkring dem, så at vide at du er den smarteste på planeten vil forstærke denne effekt mange gange.
De fleste meget smarte mennesker er ikke meget sociale og muntre, som f.eks. Den amerikanske videnskabsmand Richard Feynman eller som den moderne Neil DeGrasse Tyson. Hemingway sagde engang: "En intelligent person tvinges til at blive beruset nogle gange for at udholde kommunikation med fjols." Men hvad sker der, når alkoholisk rus ikke længere er nok til at opretholde kameraderi og gensidig hengivenhed? Dette kan føre til et tab af empati, hvilket i sidste ende fører til psykopati.
Så hvad kommer først? Forstærket eller kunstig intelligens?
Det er meget vanskeligt at forudsige. Der er et stort ønske om, at forbedret intelligens vises før AI. Alle disse kunstværker og spil, hvor hovedpersonen besidder en sådan UI, er stort set ansvarlig for dette ønske. Det skal dog forstås, at biaset mod UI faktisk ikke gør det lettere at arbejde på med hensyn til teknologisk kompleksitet. Men personligt tror jeg, at UI kommer tidligere.
Det er som det måtte være, begge retninger er meget vanskelige at implementere. Vi ser måske hverken en før i 2060'erne, 2070'erne eller endda senere. I sidste ende vil begge udviklingsretninger nå deres mål. Hvis du tænker over det, er der intet overraskende inden for intelligens nu, så behovet for at forbedre det er utroligt enormt. Og det vil sandsynligvis tage et globalt ludditisk opstand (deltagere i de spontane protester i første kvartal af det 19. århundrede mod indførelsen af maskiner under den industrielle revolution i England - red.) For at stoppe udviklingen inden for teknologisk udvikling, hvilket vil føre os til de ønskede resultater.
Hvad er fordele og ulemper ved disse to forskellige udviklingsmetoder?
Den største fordel ved at vælge AI-udviklingsvejen ligger i de uforholdsmæssigt billigere og lettere udviklingsprocesser. AI på papir og i kode er allerede udviklet. Det gjenstår kun at samle det korrekt. Den mest markante forskning på UI er på sin side nu simpelthen ulovlig. Alvorlig forskning på UI kræver meget sofistikerede eksperimenter inden for neurokirurgi og hjerneimplantater. Hjerneimplantater kan på sin side mislykkes og forårsage anfald, sindssygdom eller endda død. At forbedre den menneskelige intelligens med hensyn til en kvalitet til selvforbedring er ikke kun et spørgsmål om at tage et par piller for at få supermagter. Her skal du virkelig eksperimentere med hjerneimplantater, hvis du vil opnå seriøse resultater.
Det meste af forskningen på dette område er stærkt kontrolleret og utroligt dyrt. Alle forsøg med dyr er altid dyre. F.eks. Har Theodor Berger arbejdet på et hippocampal implantat for at gendanne og forbedre hukommelsesydelsen i mange år. I 2004 blev de første test involveret levende væv udført, men siden da har nyheder været meget sjældne. Hvert par år er der selvfølgelig nogle noter i nyheden, men jeg er meget skeptisk overfor det endelige resultat. Se nu på det udviklingsniveau, vi har været i stand til at nå i udviklingen af kunstig intelligens!
Ser AI sikrere ud end AI med hensyn til forudsigelighed og kontrol? Hvilket er mere vigtigt at skabe først, AI eller super-magtfuld AI?
Forbedret intelligens ses som mere uforudsigelig og ukontrollerbar sammenlignet med supermægtig AI. Og i det lange løb ser det faktisk endnu farligere ud. Jeg skrev for nylig en artikel, der reflekterede over global politisk transformation udløst af massiv magt koncentreret i hænderne på en lille gruppe mennesker med AI eller eksklusiv adgang til molekylær fremstilling. I det mynede jeg udtrykket “Maximilian”, der betyder “det bedste af det bedste”, for at beskrive en meget indflydelsesrig leder, der selv bruger forbedret intelligenssteknologi til at løfte sig over alle andre.
Kognitivt forbedret Reginald Barkley fra Star Trek: Den næste generation i afsnit X
Det centrale punkt i min ræsonnement i artiklen er, at i tilfælde af forbedret intelligens, er du nødt til at håndtere mennesker, og en person, som du ved, er ufuldkommen. Det kan vise sig, at mennesker med forbedret intelligens, måske, vil bevare et vist niveau af menneskelig moral, men mest sandsynligt vil de begynde at bruge al deres magt til hedonistiske formål og muligvis endda til folkedrab.
Kunstig superintelligens kan igen skabes fra bunden og simpelthen tvinges til at følge et sæt af deres egne motiveringer (som også vil være indlejret i det), som har en god start, stabilitet og har positive feedback.
Folk stiller spørgsmålet: "Ville ISI afvise disse motiveringer?" Nej, det vil han ikke, fordi disse motiveringer vil danne kernen i hans værdier, hvis de selvfølgelig er programmeret korrekt. Der vil ikke være noget”spøgelse i bilen”, der er i stand til at ignorere eller afvise forprogrammerede motiver.
Filosofen Nick Bostrom har foretaget en fantastisk analyse i sit arbejde The Will of the Superintelligence. Den centrale idé i det er, at egoistiske mål ikke kan vises på egen hånd, hvis systemet med nøgleopgaver i AI oprindeligt er et sæt uselviske mål, og hvis kernen i maskinens eksistens er at opretholde denne uselviskhed. Evolution har vist, at egoistiske mål spiller en vigtig rolle i overlevelsen, især hvis vi tager højde for de evolutions konstruktive begrænsninger af levende organismer, men dette betyder ikke, at vi ikke selv er i stand til at programmere uinteresserede agenser fra bunden?
Hvilke vanskeligheder (teknologiske, medicinske eller etiske) står i vejen for udvikling?
Den største udfordring ligger i at udvikle egnede produktionsteknologier. Nu er vi ikke engang tæt på dette. En anden faldgrube er opgaven med at finde ud af, hvad nøjagtigt hver enkelt neuron er ansvarlig for og bestemme den nøjagtige placering af disse neuroner i en enkelt person. Igen har vi ikke engang kommet tæt på det.
For det tredje er vi nødt til at udvikle en hurtig måde at teste de mange teorier om hjernefunktion. Ed Boyden kalder dette "neuralt netværksscreeningskredsløb med høj kapacitet." Den mest passende og indlysende løsning på dette spørgsmål kan på en eller anden måde være at skabe et menneske bevidstløst og eksperimentere på det uden en snor af samvittighed eller moralske dilemmaer. Men jeg har en fornemmelse af, at denne idé vil blive mødt med fjendtlighed af de fleste etiske udvalg.
I mangel af en sådan mulighed, er vi nødt til at finde en måde at skabe en hidtil uset detaljeret model af den menneskelige hjerne. Og vi taler ikke om nutidens hårde forsøg på "hjernemodellering" -projektet, som der er så meget hype omkring. Vi taler om et nyt hidtil uset niveau, som vi først kan nå op til 2050-2080. Oxford-analyse viser, at det mere handler om 2080'erne. Det hele ser naturligvis nu ud som formuefortælling på kaffegrunde, men stadig tættere på virkeligheden.
NIKOLAY KHIZHNYAK
