Amerikanske eksperter udvikler et neuralt netværk, der kan forklare beslutninger truffet af kamprobotter. Dette vil øge niveauet for menneskelig tillid til de "elektroniske soldater".
Projektet Explainable Artificial Intelligence eller blot XAI (Explainable Artificial Intelligence) vil give mennesker og robotter mulighed for bedre at forstå hinanden. Det neurale netværk XAI vil opbygge en logisk kæde med "resonnementer" af roboten og vise personen, hvorfor maskinen har taget en sådan beslutning - for eksempel at åbne ild på et specifikt mål.
Udvikling er i gang for at skabe blandede robot-menneskelige kampenheder i den amerikanske hær. Indtil videre er det vanskeligt at forestille sig, men om få årtier vil robotter blive fulde soldater - ligesom mennesker. Desuden er de i stand til at erstatte en person i situationer, hvor det kan være nødvendigt at åbne ild på et levende mål. En sådan udskiftning vil formelt frigøre en person for ansvaret for at træffe en dødbringende beslutning, men den vil ikke være i stand til at fratage ham tvivl og anger og kan også forårsage mistillid til robotter. Du ved aldrig - måske er robotter faktisk elektroniske maniakker, der kan lide at dræbe?
XAI-projektet skal løse dette problem i interaktion mellem mennesker og robotter. Takket være introduktionen af det nye system vil militæret (dem, der stadig er levende mennesker) være i stand til at forstå ved hvilket kriterium maskinen har vurderet denne eller den anden genstand eller person som en trussel. Desuden vil XAI gøre det lettere for kamprobotter at tilpasse sig realiteterne i en bestemt militær konflikt og reducere graden af meningsløs grusomhed.
Den nye udvikling vil være nyttig ikke kun for militæret. Det kan også bruges i den civile sfære - inden for industri, sikkerhedssystemer og medicin. Et eksempel på sådan anvendelse er givet af Bill Ferguson, en førende specialist hos Raytheon, der er direkte involveret i udviklingen af et neuralt netværk.”Hvis kunstig intelligens registrerer tegn på lungekræft på røntgenstrålen, kan lægen finde ud af, hvorfor maskinen gjorde det. Computeren vil fremhæve alle mistænkelige områder, som lægen kunne have ignoreret og forveksler med billedgjenstander. Derefter vil lægen selv kunne afgøre, om det er værd at korrigere diagnosen, eller om det neurale netværk var forkert,”forklarer forskeren.
