En ny undersøgelse har vist, at manifestation af fordomme over for andre ikke kræver meget intelligens og let kan udvikle sig i kunstigt intelligente maskiner.
Psykologer og specialister inden for informationsteknologi ved University of Cardiff og MIT har vist, at grupper af autonome maskiner kan udvise bias ved blot at definere sådan opførsel, kopiere den og gensidigt undervise i den.
Det kan se ud som om fordomme er et rent menneskeligt fænomen, der kræver menneskelig intelligens for at danne meninger eller stereotyper om en person eller gruppe. Mens nogle typer computeralgoritmer allerede har vist forudindtægter såsom racisme og sexisme baseret på studiet af offentlige registre og andre data genereret af mennesker, demonstrerer nyt arbejde AI's evne til uafhængigt at udvikle grupper med fordomme.
Forskningen offentliggøres i Scientific Reports. Det er baseret på computersimuleringer af, hvordan partiske virtuelle agenter kan danne grupper og interagere med hinanden. Under simuleringen bestemmer hver enkelt person, om han vil hjælpe nogen fra sin gruppe eller fra en anden, afhængigt af den enkeltes omdømme, såvel som hans egen strategi, der inkluderer deres niveauer af fordommer over for udenforstående. Efter at have udført tusinder af simuleringer, lærer hver enkelt nye strategier ved at kopiere andre - hvad enten de er medlemmer af deres egen gruppe eller hele "befolkningen".
Den relative kumulative hyppighed af agensenes egenskaber efter fordommens niveau / Roger M. Whitaker.
”Efter at have kørt disse simuleringer tusinder og tusinder af gange i træk, begyndte vi at forstå, hvordan bias udvikler sig, og hvilke betingelser der er nødvendige for at kultivere eller forhindre det,” sagde studieværtforfatter professor Roger Whitaker fra Institut for kriminalitet og sikkerhedsforskning og School of Computer Science and Computer Science ved Cardiff University.”Vores simuleringer viser, at bias er en stærk naturkraft, og gennem evolution kan det stimuleres i virtuelle populationer til at skade bredere forbindelser med andre. Beskyttelse mod fordomsfulde grupper kan utilsigtet føre til dannelse af andre fordomsfulde grupper, der fremkalder større inddeling af befolkningen. En sådan udbredt fordom er vanskelig at vende.”
Forskningsdataene inkluderer også personer, der øger deres niveauer af bias ved fortrinsvis at kopiere dem, der får de bedste kortsigtede resultater, hvilket igen betyder, at sådanne beslutninger ikke nødvendigvis kræver særlige evner.
”Det er helt sandsynligt, at autonome maskiner, der er i stand til at identificere sig med forskelsbehandling og kopiere andre, i fremtiden kan være modtagelige for de fænomener med fordomme, som vi ser i samfundet,” fortsætter professor Whitaker.”Mange AI-udviklinger, som vi ser i dag, involverer autonomi og selvkontrol, det vil sige, enheds opførsel er også påvirket af dem omkring dem. De seneste eksempler inkluderer transport og tingenes internet. Vores forskning giver en teoretisk indsigt i, hvor simulerede agenter med jævne mellemrum henvender sig til andre for ressourcer."
Salgsfremmende video:
Forskerne fandt også, at bias under visse betingelser, herunder tilstedeværelsen af mere opdelte underpopulationer i det samme samfund, er mere vanskeligt at forstærke.
”Med et stort antal underpopulationer kan uvildige gruppeforeninger samarbejde uden at blive udnyttet. Det mindsker også deres mindretalsstatus, samtidig med at de reducerer deres modtagelighed for at etablere bias. Dette kræver imidlertid også omstændigheder, hvor agenter er mere fordelagtigt disponeret over for interaktioner uden for deres gruppe,”konkluderede professor Whitaker.
Vladimir Guillen