De 61 seconden durende video van de Britse premier Keir Starmer zou schokkend zijn als het waar was. “Het VK gaat een landelijke avondklok invoeren, die elke avond om 23.00 uur ingaat”, lijkt hij te zeggen op een van de duizenden TikTok-video’s van hem die de afgelopen zes maanden zijn gepost. “Volgens de nieuwe regel mag niemand na 23.00 uur zijn huis verlaten zonder officiële toestemming.”Starmer heeft nooit een dergelijk beleid of dergelijke aankondiging gedaan. Maar dankzij AI klonk de premier in de korte video griezelig als de echte. De nepvideo werd ruim 430.000 keer bekeken en inspireerde soortgelijke berichten op X en Facebook. Die video, en andere soortgelijke video’s, lijkt te zijn verwijderd door het socialemediabedrijf in Chinese handen, dat officieel ‘nep-gezaghebbende bronnen of crisisgebeurtenissen’ verbiedt, of in bepaalde contexten valselijk publieke figuren toont.“
Maar de clip was slechts een van de 6.042 van dergelijke video’s, waarvan de meeste Starmer bevatten, geïdentificeerd door NewsGuard, een bedrijf dat desinformatie op internet opspoort, tussen mei en december. In een rapport stond dat de video’s waren geplaatst door accounts met namen van nep-, Brits klinkende nieuwsorganisaties zoals “BBB UK News” en “Daily Britain News”. Samen hadden de accounts ruim 1 miljoen volgers toen het rapport verscheen. “Het emuleert consequent Starmer”, zegt Eva Maitland, senior analist voor Russische invloed bij NewsGuard. “Het levert valse of ongefundeerde beweringen op die er slecht uitzien voor de Starmer-regering, en ze zijn eigenlijk gemaakt om een krachtige reactie van mensen te creëren, zodat ze erop klikken.”Maitland zei dat de video’s geen onderdeel lijken te zijn van een gecoördineerde poging van buitenlandse tegenstanders zoals Rusland of de binnenlandse politieke tegenstanders van de premier om hem in de ogen van de kiezers schade toe te brengen. In plaats daarvan, zei ze, worden ze waarschijnlijk gemaakt door producenten van inhoud wiens primaire doel het is om geld te verdienen door video’s te maken die viraal gaan.De wijdverbreide acceptatie van gebruiksvriendelijke AI-tools voor het genereren van video’s, zoals OpenAI’s Sora, heeft het aantal nepvideo’s op TikTok en andere sociale mediaplatforms dramatisch vergroot. De nepvideo’s komen op een bijzonder moeilijk moment voor de premier, die al te kampen heeft met zeer lage stemcijfers. In één video lijkt Starmer nieuwe rijbewijzenwetten aan te kondigen die veel Britten de mogelijkheid zouden kunnen ontnemen om legaal in het land te rijden. In een andere video is de nepstem van Starmer te zien die verklaart dat nieuwe regels de autoriteiten in staat zullen stellen toegang te krijgen tot de telefoon van elke Britse persoon, samen met zijn privégegevens. In de eerste dagen nadat NewsGuard zijn rapport op 9 december publiceerde, waren veel van de video’s beschikbaar op TikTok. Op 19 december leken de meeste van het platform te zijn verwijderd. Howard zei dat het gebruik van AI in de politiek snel toeneemt. ‘We weten dat het nu internationaal alomtegenwoordig is’, zei hij. “Vier op de vijf verkiezingen over de hele wereld bevatten nu door AI gegenereerde politieke rommel die niet wordt toegeschreven en duidelijk misleidend is.“
