Forskere og programmører er stoppet med at forstå, hvordan kunstig intelligens træffer beslutninger. Dette problem blev annonceret af flere specialister på den største AI-konference - Neural Information Processing Systems - afholdt i Long Beach (Californien).
Eksperter, der er interviewet af Quartz, siger, at de er nødt til at handle, før systemet bliver for kompliceret.
”Vi ønsker ikke at tage AI-beslutninger for givet uden at forstå deres logik,” siger Jason Yosinski fra Uber. "For at samfundet skal acceptere maskinlæringsmodeller, er vi nødt til at vide, hvordan AI kommer til visse konklusioner."
Problemet, som mange eksperter kalder "sort kasse", er virkelig alvorligt. Tidligere erfaring har vist, at AI har en tendens til at tage partiske beslutninger og tegne analogier, hvor de ikke burde. Idet neurale netværk gradvist infiltrerer retshåndhævelse, sundhedsvæsenet, videnskabelig forskning og algoritmerne, der bestemmer, hvad du ser på dit Facebook-nyhedsfeed i dag, kan AI-fejl være meget dyre.
Som et eksempel citerer Kiri Wagstaff, en AI-ekspert ved Jet Propolusion Lab (NASA), en mission til Mars. Enhederne er placeret 200 millioner miles fra Jorden og koster hundreder af millioner af dollars, så eventuelle fejl i AI's arbejde er simpelthen uacceptable.
”Folk er nødt til at vide, hvad AI laver, og hvorfor. Ellers, hvordan kan de stole på ham til at kontrollere dyre udstyr?”Siger Wagstaff.
I øjeblikket arbejder videnskabsmanden på en algoritme, der sorterer billeder taget af forskellige NASA-rumfartøjer. Da antallet af billeder er i millioner, giver computeren dig mulighed for at sortere og fremhæve de mest interessante, uden at bruge en enorm mængde tid på denne proces. Problemet ligger dog i det faktum, at ofte kun AI alene ved, hvorfor visse billeder, den vælger, er usædvanlige.
Således konkluderer Wagstaff, hvis der er en fejl inde i denne algoritme, en dag kan det gå glip af meget vigtig information.
Salgsfremmende video:
”Grundlæggende giver computeren dig et billede og siger: 'Se, dette er interessant.' Men du kan ikke altid forstå, hvorfor det er interessant: på grund af objekternes farve, form eller deres placering i rummet - ved du det sandsynligvis ikke,”siger videnskabsmanden.
Hannah Wallach, en seniorforsker hos Microsoft, er enig i sine kollegers konklusioner.
”Når maskinlæring bliver mere udbredt og indsatsen stiger, kan vi ikke længere se disse systemer som sorte kasser. Vi er nødt til at forstå, hvad der sker inden i dem, og hvad de laver,”sagde forskeren.
Forskere forsøger heldigvis at finde metoder til at forstå logikken i kunstig intelligens. Således præsenterede Google-forsker Mitra Raghu en rapport, der beskriver processen med at spore handlingerne fra individuelle "neuroner" i et neuralt netværk. Ved at analysere millioner af operationer var hun i stand til at finde ud af, hvilke af de kunstige "neuroner", der fokuserede på misforståelser, og slå dem fra. Dette beviser, at det at oversætte arbejdet i neurale netværk til en form, der er tilgængelig for menneskelig forståelse, ikke er en sådan umulig opgave.
En anden mulighed for at løse problemet er regelmæssigt at teste de færdigheder, der er udviklet af kunstig intelligens.
”Det ligner skolelærere, der beder børn om at videresælge deres egne ord, hvad de forstod ud fra lærerens forklaring,” siger Wagstaff.
Når det er sagt, er vigtigheden af at forstå internt i algoritmen ikke kun for at forhindre, at en hypotetisk rover falder ned fra en Martian rock; ved at indse, hvad fejlen er, kan du gøre eksisterende systemer endnu bedre.
”Hvis dit system ikke fungerer, og du ikke ved hvorfor, er det meget vanskeligt at gøre noget ved det,” siger Yosinski. "Hvis du ved, hvad der skete, kan situationen altid rettes."
Brugte materialer fra webstedet hightech.fm