Superintelligente computere eller robotter, der truer eksistensen af den menneskelige race, er en favorit plot af science fiction. I virkeligheden kan et sådant dommedagscenarie ifølge forskere kun forhindres ved at skabe et virtuelt "fængsel" til at indeholde kunstig intelligens (AI). Og dette skal gøres, før han lærer at være opmærksom på og forbedre sig selv.
Hvis du slipper denne genie ud af flasken, så fra et orakel, der løser vores problemer, kan det blive til en apokalyptisk trussel, siger Roman Yampolsky, en videnskabsmand ved University of Louisville, Kentucky, der arbejder inden for datalogi. Det miljø, hvor AI'en skal indeholde, skal planlægges omhyggeligt, så det ikke kan bryde fri gennem trusler, bestikkelse, fristelse eller hacking af computere.
”Han kan opfinde mange måder at påvirke, krænke en kompleks socio-ingeniørkombination og bruge eksisterende hardwarekomponenter til formål, som vi ikke engang kan forestille os,” mener Yampolsky. - Sådan software har ubegrænsede muligheder for at inficere computere og netværk. AI kan finde måder at påvirke den menneskelige psyke, bestikkelse eller afpresning mennesker, der er i kontakt med det."
Fremkomsten af et nyt område af videnskabelig forskning, der beskæftiger sig med problemet med at skabe et "fængsel" til kunstig intelligens, har yderligere fordele. Disse undersøgelser er meget nyttige til forbedring af computersikkerhed og kryptografi, er Yampolsky sikker på. Hans forslag blev detaljeret i martsudgaven af det akademiske tidsskrift for Journal of Consciousness Studies.
Sådan opsættes en fælde til Skynet
Til at begynde med kan du omslutte kunstig intelligens inde i en "virtuel maskine". Lad det arbejde inden for et normalt operativsystem - begrænsning af AI-adgang til værtscomputers software og hardware vil gøre det meget mere ufarligt. Under alle omstændigheder vil smart AI ikke være i stand til at sende hemmelige beskeder til dets menneskelige tilhængere og slår Morse-koden af med kølevifter.
At lægge kunstig intelligens i en computer uden internetadgang er en god måde at forhindre AI's lumske planer for at beskytte jorden mod dig og mig. I tilfælde af anden fiasko kan forskere altid bremse AI-tankeprocessen ved at bremse computerens behandlingshastighed, regelmæssigt trykke på nulstillingsknappen eller frakoble AI'en fra strømforsyningen.
Salgsfremmende video:
Disse sikkerhedsforanstaltninger er designet til at håndtere meget intelligente og farlige computervirus, men hvor effektive de faktisk viser sig at være, er nogens gæt.
Catch-22 (roman af den amerikanske forfatter J. Heller; ca. Mixednews) er, at vi ikke kan gennemføre test i fuld skala af vores ideer, før udviklingen af AI er afsluttet. Men for at gøre AI sikker, er det nødvendigt at udvikle et sæt passende foranstaltninger, siger Yampolsky. "Den bedste mulighed er at indføre begrænsninger for brugen af AI-systemer og derefter om nødvendigt ændre disse begrænsninger i overensstemmelse med de stigende muligheder for AI."
Forskeren Roman Yampolsky foreslog at bruge "@" -skiltet eller andre tegn, der bruges i dag til at betegne en stråling eller biologisk trussel for at indikere tilstedeværelsen af en fare forbundet med kunstig intelligens.
Sæt aldrig en menneskelig sikkerhedsvagt på køretøjet
Under en tilsyneladende uskyldig samtale med en sikkerhedsvagt vil intet forhindre AI i at bruge psykologiske teknikker såsom venskab eller afpresning. En person kan bestikkes ved at love ham perfekt helbred, udødelighed eller endda et løfte om at vende tilbage familie og venner fra den anden verden. Eller opnå noget med trusler.
Den sikreste måde at kommunikere med AI på er at få det til, når du løser et specifikt videnskabeligt eller teknisk problem, at vælge et svar blandt de mange tilgængelige muligheder, forklarer Yampolsky. Dette vil hjælpe med at holde den supersmarte orakel i en kort bånd.
Mange forskere mener, at trods alle forholdsregler, vil det ikke fungere at holde AI-smartass fastlåst på ubestemt tid. Det seneste eksperiment af Eliezer Yudkowsky, en forsker ved Institute of Singularity om oprettelse af kunstig intelligens, viste, at selv intelligens på menneskelig niveau kan bedrage en person og "flygte" fra fængsling.
Ikke desto mindre insisterer Yampolsky på at holde AI i streng isolering - det er stadig bedre end at give op og give det fuldstændig frihed. Men hvis udviklingen af AI når det punkt, hvor det kan manipulere en person, der bruger underbevidstheden (forudsigelse af fremtiden), telepati eller telekinesis, vil konsekvenserne være uforudsigelige.
"Hvis en sådan AI selv forbedrer sig og når et niveau, der markant overstiger kapaciteten inden for menneskelig intelligens, kan konsekvenserne ikke engang forestilles," advarer Yampolsky.