Redigerede videoer vises på Internettet, hvor folk siger bestemte ord (selvom de ikke faktisk sagde dem) eller udfører nogle handlinger (selvom de ikke faktisk gjorde dem). Takket være nye udviklinger, der er baseret på kunstig intelligens, vil kvaliteten af sådanne video-forfalskninger stige markant.
I dag er teknologier til oprettelse af falske videoer ikke begrænset til bevægelser af en persons læber og ansigt i de originale rammer - et kunstigt intelligensbaseret system er i stand til at forberede en realistisk video, hvor et redigeret digitalt billede af en person kan bevæge hovedet i forskellige retninger, blinke og vise følelser. Alle handlinger og ord fra skuespilleren, der er filmet i den originale video, overføres til den falske video.
Udviklingsteamet sammenlignede den nye algoritme med eksisterende video- og fotomanipulationssystemer, som Facebook og Google er involveret i. Den nye algoritme overgik eksisterende teknikker, og deltagerne i eksperimentet kunne næppe bestemme ægtheden af videoer.
Forskerne blev delvis finansieret af Google. Oprettelsen af systemet håber, at den nye teknologi vil forbedre den virtuelle virkelighed. AI behøver kun at studere et par minutter af kildematerialet for at begynde at oprette en ændret video. Derfor hævder forskerne, at videoredigeringssoftware i høj kvalitet vil blive mere overkommelig.
Udviklerne forstår, at deres opfindelse kan rejse nogle bekymringer i samfundet.
Forsker Justus Tees fortalte The Register, at han var bekymret for den etiske side af problemet. Resultaterne af undersøgelsen blev offentliggjort for at advare folk om fremskridt inden for manipulationsteknikker, sagde Tees.
Videnskabsmænd "advarede igen om faren", men fortsatte med at forbedre den mistænkelige teknologi. I teksten til undersøgelsen blev det etiske spørgsmål kun nævnt som forbipasserende: Udviklerne mener, at nogen burde forbedre vandmærkningssystemet eller komme med en anden måde at opdage forfalskning af video på.
Forskerne selv ønsker ikke at tackle dette problem, da de er travlt med at forbedre værktøjet til at skabe falske videoer.
Salgsfremmende video:
Anton Komarov