Kampagnen til præsidentvalget i De Forenede Stater er officielt startet, hvilket igen betyder en overflod af underlige og lumske måder, hvorpå teknologi forvrænger politik. En af de største trusler er kunstige personligheder, der er lidenskabeligt involveret i politiske konflikter. På den ene side udvikler teknologien til at generere tekst baseret på kunstig intelligens hurtigere end nogensinde, på den anden side har chatbots i sociale netværk næsten nået perfektion. Disse computergenererede "mennesker" vil snart drukne reelle menneskelige diskussioner på nettet.
Tekstgenereringssoftware er godt udviklet til at narre næsten enhver. Computeren er fremragende til at skrive nyheder, især inden for sport og økonomi, rådgive klienter på investeringssteder, skrive tvingende artikler om andre nyhedsemner (selvom der er begrænsninger).
Samtidig findes der allerede algoritmer, der kan generere indhold, der ikke kan skelnes fra almindelige brugers stillinger. I 2017 afholdt FCC en offentlig debat om sine planer om at afslutte netneutralitet. Der blev modtaget svimlende 22 millioner kommentarer om dette emne. Mange af dem - måske halvdelen - var falske, med angriberen brugte stjålne ID-data. Nogle af kommentarerne var uhøflige, 1,3 millioner blev genereret fra den samme skabelon - i dem blev nogle ord ændret for at gøre meddelelserne unikke.
Og teknologier på dette område udvikler sig aktivt. I sit eksperiment brugte Harvard-forsker Max Weiss tekstgenererende software til at skabe 1.000 kommentarer som svar på regeringens Medicaid-initiativ. Alle disse kommentarer var unikke og så ud som om de var skrevet af virkelige mennesker, der støtter en bestemt politisk holdning. De formåede at narre administratorerne af Medicaid.gov til at tro, at de var ægte frygt for rigtige mennesker. I løbet af sin undersøgelse afslørede Weiss efterfølgende, at kommentarer var falske og bad dem blive fjernet. Men en anden person eller gruppe af indtrængende, der følger denne vej, er sandsynligvis ikke så yderst moralsk.
Chatbots har været omtalt i diskussioner på sociale medier i mange år. Ifølge et skøn blev omkring en femtedel af alle tweets om præsidentvalget i 2016 offentliggjort af bots og omkring en tredjedel af afstemningen om Brexit samme år. I en rapport fra Oxford University sidste år fandt forskere beviser for, at der bruges bots til at sprede propaganda i 50 lande. Som regel var dette enkle programmer, der tankeløst gentog slagord: F.eks. En kvart million pro-saudiske tweets "Vi tror alle på Mohammed bin Salman" efter mordet på Jamal Khashoggi i 2018. At finde bedre bots er meget vanskeligere. Og det er vanskeligt at måle effektiviteten af disse bots. De fordrejer alle den offentlige mening og troen på en velbegrundet politisk debat. Faktisk,vi er alle midt i et nyt socialt eksperiment.
I årenes løb har algoritmiske bots udviklet hele personligheder. De har falske navne, falske biografier og falske fotografier, undertiden computergenererede. I stedet for at sprede propaganda uendeligt, sender de kun lejlighedsvis beskeder. Forskere kan finde ud af, at de er bots og ikke mennesker, der er baseret på udgivelsesmønstre, men bot-teknologien forbedrer sig hele tiden, inden forsøg på at spore dem. Fremtidens bots vil bedre blive forklædt som sociale grupper af mennesker, propaganda vil blive subtilt vævet ind i tweets om emner relateret til disse sociale grupper.
Snart vil simmere, der kontrolleres af programmet, være i stand til at skrive personlige breve til aviser, i premierministerne til valgte embedsmænd, give personlige kommentarer til offentlige regelsættende processer og tale intelligent om politiske spørgsmål på sociale medier. De vil være i stand til at kommentere indlæg på sociale netværk, nyhedswebsteder osv. Der oprettes permanente tegn, der vil virke reelle endda for dem, der studerer dem. De vil være i stand til at præsentere sig på sociale medier og sende personlige tekster. De replikerer millioner og sender milliarder af meddelelser, lange og korte, døgnet rundt. Sammen kan de drukne enhver reel debat på Internettet. Ikke kun på sociale medier, men uanset hvor der er kommentarer.
Måske vil disse figurer blive kontrolleret af udenlandske indtrængende. Måske vil dette være interne politiske grupper. Måske vil det være kandidaterne selv. Mest sandsynligt vil alle bruge det. Den vigtigste lektion ved valget i 2016 om desinformation er ikke, at desinformation blev offentliggjort; men det er billigt og let at forkert informere folk. Fremtidige teknologiske fremskridt vil gøre alt dette endnu mere overkommeligt.
Salgsfremmende video:
Vores fremtid vil være en voldelig politisk debat, hvor bots for det meste vil argumentere med andre bots. Dette er ikke, hvad vi forestiller os, når vi roser markedet for ideer eller enhver demokratisk politisk proces. For at et demokrati skal fungere korrekt, er der to ting, der er nødvendige: information og repræsentation. Kunstige figurer rammer begge ting.
Løsningen på problemet er endnu ikke åbenlyst. Vi kan prøve at regulere brugen af bots - den foreslåede californiske lov kræver, at bots skal identificere sig - men dette er kun effektivt mod legitime influencer-kampagner som annoncer. Den skjulte indflydelse vil være meget vanskeligere at opdage. Det mest åbenlyse forsvar er udvikling og standardisering af bedre godkendelsesmetoder. Hvis sociale netværk er sikre på, at der er en rigtig person bag hver konto, vil de være bedre i stand til at udslette falske personer. Men falske konti oprettes allerede regelmæssigt ved hjælp af data fra rigtige mennesker uden deres viden eller samtykke. Vi har ikke et godkendelsessystem, der beskytter privatlivets fred og kan nå milliarder af brugere.
Vi kan kun håbe, at vores evne til at identificere kunstige personligheder vil indhente vores evne til at maske dem. Men indtil videre er angribere altid et skridt foran.
I slutningen af dagen skal beslutninger være ikke-tekniske. Vi skal erkende begrænsningerne i den politiske debat på Internettet og igen prioritere kommunikation ansigt til ansigt. Det er sværere at automatisere, og vi ved, at de mennesker, vi taler med, er virkelige mennesker. Men indtil videre virker dette kulturelle skift som en fuldstændig urealistisk løsning, og forsøg på desinformation er udbredt over hele verden og gennemføres i mere end 70 lande. Dette er den normale måde at propaganda på i lande med autoritære regimer, og det bliver en måde at føre en politisk kampagne på.
Kunstige figurer er fremtidens propaganda. Og selvom de kan være ineffektive med at bringe diskussionen til en bestemt nævner, kan de let drukne diskussionen helt.
BRUCE SCHNEIER er en stipendiat og underviser ved Harvard Kennedy School.