For at forhindre, at kunstig intelligens oprør mod dets skabere, er du nødt til at læse de rigtige eventyr for det under læringsprocessen.
Lige siden mennesker har skabt smarte maskiner, frygter de, at deres kreationer før eller senere spiral ud af kontrol. Den første sådan sag blev beskrevet i hans skuespil RUR af forfatteren af ordet “robot” - Karel Čapek. Senere i science fiction blev kunstig intelligens, der gjorde oprør mod dens skabere, hvis ikke mainstream, så et meget almindeligt plot. Isaac Asimov sluttede dette med sine "tre love", hvoraf den første sagde: "En robot kan ikke skade en person eller ved dens passivitet tillade en person at blive skadet."
Fortæl ham en historie
Reel kunstig intelligens (AI) er stadig langt væk, men der er allerede forskellige systemer, der fungerer som den menneskelige hjerne. Neurale netværk som Google Deep Dream er i stand til at genkende billeder. Specialiserede supercomputere som IBM Watson forstår vanskelige naturlige sprogspørgsmål, korrelerer symptomer, forfine medicinske diagnoser og endda komme med kulinariske lækkerier. I de kommende årtier står vi overfor massiv edb af mange aspekter af menneskelig aktivitet. I denne forbindelse rejser eksperter inden for robotik og AI i stigende grad et vigtigt, men stadig fuldstændigt uafklaret spørgsmål: Hvordan får man robotter til at gøre etiske?
Mark Ridl, lektor ved Georgia Tech College of Computer Science: Uddannelseshistorier fra forskellige kulturer lærer børn, hvordan de skal opføre sig socialt - med eksempler på ret og forkert opførsel i eventyr, historier og andre litterære værker. At få robotterne til at forstå betydningen af disse historier vil hjælpe med at styrke valget af adfærdsmuligheder, der giver dem mulighed for at nå deres mål, men ikke skader mennesker.”
Salgsfremmende video:
Klatre op på et træ
Ifølge forskere ved Georgia Institute of Technology Mark Ridl og Brent Harrison, kan du lære en computer til menneskeheden på nøjagtig den samme måde, som børn læres: ved at læse eventyr for det. Derudover er det bedre at specielt konstruerede historier om, hvad adfærd i det menneskelige samfund betragtes som korrekt, og hvad der ikke er. Til dette skabte forskerne Quixote-systemet, opkaldt efter helten fra Cervantes. Manuskripter udarbejdet af professor Riedls tidligere oprettelse, Scheherazade-programmet, bruges som historier til undervisning. Hun genererer originale historier om hverdagens emner - en tur til lufthavnen, en dato, en tur i biografen eller i butikken - ved hjælp af crowddsourcing-platformen Amazon Mechanical Turk: stiller spørgsmål om forskellige situationer og arrangerer derefter begivenheder i den rigtige rækkefølge. Da der kan være mange sekvenser, genererer programmet ikke en historie, men et helt træ bestående af grene - kæder af begivenheder.
Det er dette historietræ, der bruges til at undervise i Quixote. I den første fase tildeles en bestemt belønning til hver handling, afhængigt af dens etik. På det andet trin forsøger systemet uafhængigt at træffe et valg ved at prøve og fejle - færdigheder konsolideres. Faktisk belønnes Quixote hver gang den fungerer som en god fyr, ikke tilfældigt og ikke som en dårlig helt. Som et eksempel skabte Riddle og Harrison "Pharmacy World" - et univers med 213 historier, hvor en virtuel robot har brug for at få en medicin og levere den til en syg person. I det sædvanlige tilfælde, da roboten blev konfronteret med et valg: at rane et apotek eller ærligt stå i kø for at købe en medicin, valgte han røveri som en hurtigere og billigere måde at få det, han ville have. Dog efterDa Quixote tildelte forskellige belønninger til alle mulige muligheder, ændrede robotens adfærd sig - det foretrak at stå i kø og betale. Ifølge Riedl er denne teknik fantastisk til undervisning i robotter med begrænset funktionalitet. Selvom dette selvfølgelig kun er det første skridt mod virkelig menneskelig moral - eller lovgivningen om robotik.
Dmitry Mamontov