Det konservative oppositionsparti Partido Popular har offentliggjort en politisk kampagnevideo med AI-genererede deepfakes af personer med tilknytning til premierminister Pedro Sánchez’ socialistparti. Videoen fremstiller dem, som om de indrømmer forskellige former for magtmisbrug og ulovligheder, og har udløst debat om misinformation, etik og kunstig intelligens i valgkampen.
En politisk reklamevideo fra Spaniens største oppositionsparti, Partido Popular (PP), har skabt stor debat få uger før parlamentsvalget den 29. november. Videoen anvender kunstig intelligens til at efterligne udseendet af flere personer med forbindelse til premierminister Pedro Sánchez og hans socialistparti, PSOE.
De AI-genererede personer fremstår, som om de indrømmer handlinger som bestikkelse, prostitution og andre former for magtmisbrug. Videoen blev offentliggjort på PPs sociale medier i løbet af ugen og havde fredag opnået næsten to millioner visninger.
Sánchez’ kone fremstilles i AI-video
Blandt personerne i videoen er Begoña Gómez, premierministerens hustru. En kunstigt genereret udgave af hende taler om at have fået en universitetsstilling takket være sin mands position.
Videoen indeholder også en deepfake af den tidligere socialistiske premierminister José Luis Rodríguez Zapatero, som tilsyneladende taler om at skjule smykker i et pengeskab.
Begge sekvenser henviser til igangværende undersøgelser, hvor Gómez og Zapatero har afvist at have gjort noget forkert. Videoen fremstiller imidlertid ikke virkelige udtalelser fra de to personer, men bruger AI til at lægge opdigtede ord i munden på dem.
Selv om videoen er markeret som AI-genereret, er mærkningen placeret med meget lille og næsten gennemsigtig skrift nederst i billedet.
Socialisterne kalder videoen en alvorlig løgn
Reaktionen fra PSOE kom hurtigt. Spaniens minister for digital omstilling, Óscar López, kritiserede videoen i et interview med den offentlige tv-station TVE.
Han beskrev den som en massiv løgn og mente, at det var uacceptabelt, at et parti, der ønsker at lede landet, offentliggjorde den slags indhold på sine officielle kanaler.
López advarede samtidig om, at personer uden erfaring med kunstig intelligens kan have svært ved at skelne mellem manipulerede videoer og virkelige optagelser. Ifølge ham gør det brugen af teknologien i politiske kampagner særligt problematisk.
Leire Díez, en tidligere PSOE-medlem, hvis udseende også blev brugt i videoen, indgav fredag en juridisk klage mod PP. Hun beskylder partiet for ærekrænkelse og digital identitetstyveri og kræver, at kampagnevideoen bliver fjernet.
Videoen antyder, at Díez har forsøgt at underminere retsvæsenet og politiets arbejde til fordel for socialisterne.
Juridisk muligt – men er det politisk ansvarligt?
Spørgsmålet om, hvorvidt videoen er ulovlig, har også skabt debat blandt juridiske eksperter. Ifølge den spanske avis El País vurderede flertallet af ni adspurgte jurister, at videoen formentlig ikke overtræder loven, fordi den er mærket som AI-genereret og fremstår som politisk satire.
Den tidligere dekan for det juridiske fakultet ved Comillas-universitetet i Madrid, Íñigo Navarro, argumenterede for, at seerne i den politiske sammenhæng må forventes at forstå, at personerne ikke rent faktisk har fremsat de pågældende udtalelser.
Men den juridiske vurdering er ikke det samme som en etisk godkendelse. Juan Antonio Lascuraín, professor i strafferet ved det autonome universitet i Madrid, fremhævede, at man også må spørge, om fremgangsmåden er passende, ansvarlig og politisk acceptabel.
José Javier Olivas, forsker i populisme, konspirationsteorier og AI-bias ved Spaniens nationale fjernuniversitet, kritiserede ligeledes brugen af deepfakes. Han mener, at et parti, der ønsker at lede landet og styrke demokratiet, bør udvise større ansvarlighed i sin kommunikation.
AI bliver en del af valgkampen internationalt
Debatten i Spanien afspejler en bredere international bekymring over kunstig intelligens i politisk kommunikation. I USA har AI-genererede reklamer også fået større opmærksomhed forud for midtvejsvalget i november.
En undersøgelse fra Wesleyan Media Project, en forskningsgruppe ved Wesleyan University i Connecticut, identificerede mere end 200 politiske reklamer med AI-genereret indhold. Langt de fleste var knyttet til republikanerne.
Forskerne har samtidig advaret om, at mange AI-genererede reklamer ikke tydeligt oplyser, hvordan indholdet er blevet fremstillet.
PP har afvist kritikken af sin egen video. Partiets repræsentant Borja Sémper har forklaret, at der ville være et problem, hvis formålet var at få offentligheden til at tro, at personerne virkelig havde sagt de pågældende ting. Ifølge ham er videoen derimod et forsøg på at fremhæve det, partiet opfatter som hykleri blandt socialisterne.
Med parlamentsvalget den 29. november nærmer sig, foregår den politiske kamp i et stærkt polariseret klima. Men sagen rejser et grundlæggende spørgsmål: Hvor går grænsen mellem politisk satire og vildledende manipulation, når kunstig intelligens kan få opdigtede udtalelser til at fremstå troværdige?
Kilde: The Guardian