Compas-algoritmen, der har arbejdet for det amerikanske politi siden 1998, analyserede de tiltaltes data og hjalp derefter på baggrund af de modtagne oplysninger med at afgøre, om forbryderen skulle løslades mod kaution eller skulle tilbageholdes. Når man valgte et mål for tilbageholdenhed, tog systemet højde for alder, køn og track record i den kriminelle arena. I 20 års "service" blev algoritmen evalueret af mere end en million mennesker, men for nylig blev den erklæret inkompetent, hvorefter den straks blev tilbagekaldt.
Forskere fra Dartmouth College testede, hvor præcist systemet er, og om det kan stole på. For at gøre dette rekrutterede de freelancere, almindelige mennesker uden juridisk uddannelse, til at træffe deres egne beslutninger baseret på korte oplysninger om mennesker, hvilket gav emnerne oplysninger om køn, alder, kriminel historie og flere andre parametre.
Præcisionen for prognosen for de freelancere, der havde et lille dossier, var næsten 70 procent, mens programmet slog bagud med folk med fem procent, mens de støttede sig til 137 biografipunkter. Analyse af algoritmens vurderinger viste, at det er mere sandsynligt, at sorte fanger mistænkes af programmet.
"Fejl i sådanne tilfælde kan være meget dyre, så det er værd at overveje, om denne algoritme overhovedet skal bruges til at afsige dom," siger en af undersøgelsesforfatterne.
Efter at have studeret algoritmens princip kom forskerne til den konklusion, at jo yngre den tiltalte og jo flere anholdelser han har bag sig, jo større er sandsynligheden for et tilbagefald, derfor anerkendte AI-specialister teknologien som upålidelig.
Viacheslav Larionov
