Amazons kunstige intelligens, der er designet til at sortere CV'ernes CV, rangerede mænd højere end kvinder. Især afviste han cv'er med ordet”feminin” og tilbød at ansætte kandidater, der brugte typiske maskuline verb i deres tale, selvom disse mennesker ikke havde de nødvendige færdigheder. Som et resultat måtte virksomheden lukke projektet.
Kunstig HR-intelligens
Amazons eksperter på maskinlæring har fundet, at den kunstige intelligens, der behandler genoptagelse af kandidater til stillinger i virksomheden, diskriminerer kvindelige jobsøgende, rapporterede Reuters. Denne funktion blev ikke med vilje integreret i systemet - den var resultatet af maskinlæring.
En kunstig intelligens-baseret genoptagssorteringsmotor har været under udvikling hos Amazon siden 2014 af et 12-personers team i Edinburgh. Allerede i 2015 bemærkede virksomheden, at det nye system ikke overholdt princippet om kønsneutralitet, når de vurderede kandidater til softwareudviklingsstillinger og andre tekniske ledige stillinger.
Snart opdagede de grunden: Faktum er, at systemet blev trænet i de genoptagelser, som virksomheden har indtastet i løbet af de sidste 10 år. De fleste af disse cv'er blev afholdt af mænd, hvilket i vid udstrækning afspejler situationen i it-branchen. Som et resultat lærte Amazons kunstige intelligens, at mandlige jobsøgere foretrækkes frem for kvinder.
Sproglig afvisning
Salgsfremmende video:
Som et resultat begyndte kunstig intelligens at kassere genoptagelser, der indeholder ordet "kvindelig" i sådanne udtryk som "kaptajn for kvindeskakklubben." Mekanismen nedklassificerede også kandidaterne til to kvindeskoler, men Reuters kilder specificerede ikke deres navne. Ved evaluering af genoptagelser gav kunstig intelligens dem mellem en og fem stjerner - meget lig, hvordan købere bedømmer produkter på Amazon.
Systemet var også opmærksom på andre ord. Udviklerne har oprettet 500 computermodeller til forskellige jobansvar og geografiske placeringer. Hver model blev trænet til at genkende ca. 50 tusinde signalord, der var til stede i ansøgerens CV.
Det er bemærkelsesværdigt, at mekanismen ignorerede ord, der angiver færdigheder, der ofte er stavet i cv-CV'ernes CV, såsom evnen til at skrive forskellige koder osv. I stedet spores systemet for eksempel typiske verb til mandlig tale i selvbeskrivelsen af kandidater, som "opfyldt" (henrettet) eller "fanget", som de regelmæssigt blev set i gamle CV'er, som maskinen lærte af. Med denne tilgang var forskelsbehandling mellem kønnene ikke det eneste problem - mekanismen anbefalede ofte mennesker, der ikke havde de nødvendige færdigheder til stillingen.
Projektets yderligere skæbne
Amazon har justeret systemet, så det ikke længere reagerer på signalord. Dette var dog ikke en garanti for, at mekanismen ikke ville finde en anden måde at identificere CV, der ejes af kvinder. I begyndelsen af 2017 blev virksomheden desillusioneret af projektet og opløste teamet. Reuters-kilder siger, at HR-specialisterne tog hensyn til systemets henstillinger, men at de aldrig kun var afhængige af dem.
En af kilderne siger, at projektet er lukket. En anden hævder, at der blev dannet et nyt hold i Edinburgh for at fortsætte med at udvikle mekanismen, men denne gang med fokus på egenkapital og inkludering. En anden kilde rapporterer, at en stærkt ændret version af motoren nu bruges til at udføre rutinearbejde, såsom at fjerne duplikatoptagelser fra databasen.