Forskere fra University of Chicago (USA) gennemførte en undersøgelse, hvor de viste, hvordan AI kan bruges til at skrive komplekse falske anmeldelser. Sådanne anmeldelser kan ikke skelnes fra virkelige ved moderne metoder, og intetanende læsere finder dem meget pålidelige.
Restaurantanmeldelser blev genereret ved hjælp af tilbagevendende neurale netværk (dyb læringsteknikker), der tidligere har trænet i de tusinder af virkelige anmeldelser, der er tilgængelige online.
Ifølge forskerne kunne de genererede anmeldelser næsten ikke skelnes fra de rigtige. Så forfatterne af arbejdet viste, at brugerne ikke kun genkendte falske anmeldelser, men også betragtede dem som nyttige som virkelige skrevet af mennesker.
Sidstnævnte er sandsynligvis den mest alarmerende. Da dette i det væsentlige betyder, at anmeldelser skrevet af AI opfylder deres hovedfunktion - påvirker de målrettet folks mening.
Det bemærkes, at plagiering sjældent blev fundet i sådanne anmeldelser (ved hjælp af software). Dette skyldes, at AI genererede dem efter karakter og ikke plukkede ord fra rigtige anmeldelser.
I dag er der en ret stor underjordisk industri, hvor folk skriver falske anmeldelser (for penge). Som bemærket af professor Ben Y. Zhao fra University of Chicago i et interview med Business Insider kunne introduktionen af AI imidlertid underminere den. Forskeren siger, at han endnu ikke kender brugen af sådanne algoritmer i denne industri. Men der er ingen garanti for, at nogen ikke vil komme med noget lignende og ikke bruge det til personlig vinding.
Samtidig skriver forskerne, at svarene fra det neurale netværk stadig ikke var ideelle. Det viste sig, at algoritmen brugte et mindre sæt tegn - og det var ikke svært at se. Ifølge forfatterne af arbejdet kan fremtidige neurale netværk dog være endnu mere komplekse, og følgelig vil den feedback, de genererer, være vanskeligere at opdage.
Jiao bemærker, at det ikke kun handler om falske restaurantanmeldelser: sådanne teknologier kan generelt ryste vores overbevisning om, hvad der er ægte, og hvad der ikke er.
Salgsfremmende video:
Undersøgelsens tekst kan findes her.