In momenten van politieke chaos, deepfakes en AI-gegenereerde inhoud kan gedijen. Een voorbeeld hiervan: de onlinereactie op de schokkende operatie van de Amerikaanse regering in Venezuela afgelopen weekend, die meerdere luchtaanvallen omvatte en een clandestiene missie die eindigde met de arrestatie van de president van het land, Nicolás Maduro, en zijn vrouw. Ze werden al snel beschuldigd van narcoterrorisme en andere misdaden, en worden momenteel vastgehouden in een federale gevangenis in New York.
Op dit moment komen de feiten van de buitengewone operatie nog steeds aan het licht, en de toekomst van Venezuela is ongelooflijk onduidelijk. President Donald Trump zegt dat de Amerikaanse regering van plan is het land te ‘sturen’. Minister van Buitenlandse Zaken Marco Rubio heeft aangegeven dat Amerika dat niet gaat doen, en dat de inmiddels beëdigde voormalige vice-president Delcy Rodriguez in plaats daarvan leiding zal geven. Anderen roepen nog steeds op tot oppositieleiders María Corina Machado en Edmundo Gonalzez om de leiding te nemen.
Op momenten als deze kunnen deepfakes, desinformatiecampagnes en zelfs door AI gegenereerde memes terrein winnen. Wanneer de waarheid, of de toekomst, nog niet duidelijk is, stelt generatieve kunstmatige intelligentie mensen in staat inhoud weer te geven die de nog onbeantwoorde vragen beantwoordt en de lege plekken invult met wat ze zouden kunnen doen. wil om waar te zijn.
We hebben al AI-video’s gezien over wat er in Venezuela gebeurt. Sommige zijn meme-achtige afbeeldingen van Maduro, geboeid in een militair vliegtuig, maar sommige kunnen verward worden met echte beelden. Hoewel een groot aantal Venezolanen naar buiten kwam om de gevangenneming van Maduro te vieren, zijn er ook video’s opgedoken waarop door AI gegenereerde menigten te zien zijn, waaronder een dat blijkbaar X-CEO Elon Musk voor de gek hield.
Op zijn minst anekdotisch is de hoeveelheid deepfake-inhoud met betrekking tot Venezuela de afgelopen dagen enorm gestegen, zegt Ben Colman, medeoprichter en CEO van Reality Defender, een bedrijf dat deepfakes opspoort. Deze verhalen zijn aan geen enkele beweging gebonden en “lopen uiteen van nationalistisch tot anti-regering, pro-Venezuela, pro-VS, pro-eenheid, anti-globalisering en alles daartussenin”, zegt hij.
“Het verschil tussen deze gebeurtenis en gebeurtenissen van nog maar een paar maanden geleden is dat beeldmodellen de afgelopen dagen zo goed zijn geworden dat de meest scherpzinnige factcheckers, mediaverificatie-experts en experts in ons vakgebied veel van deze modellen niet handmatig kunnen verifiëren door naar specifieke aspecten van het beeld te verwijzen als indicator voor de geldigheid of het ontbreken daarvan”, legt Colman uit. “Die strijd (van handmatige, visuele verificatie) is vrijwel verloren.”
OpenAI vertelde Snel bedrijf dat het in de gaten houdt hoe Venezuela zich op zijn producten afspeelt en zegt dat het actie zal ondernemen als het schendingen van zijn gebruiksbeleid constateert.
Het Global Engagement Center van het ministerie van Buitenlandse Zaken, een federale eenheid die is opgericht om desinformatiecampagnes aan boord te monitoren, zou de situatie eerder hebben gevolgd, zegt een voormalig werknemer.
Tijdens de Russische oorlog in Oekraïne zag het ministerie van Buitenlandse Zaken bijvoorbeeld deepfakes van leiders die soldaten probeerden te overtuigen hun wapens neer te leggen, en valse verhalen over nieuwe deelnemers aan de oorlog. Tijdens politieke chaos is het gebruikelijk dat online actoren proberen tegengestelde facties te ontmoedigen, voegt de persoon eraan toe. Dat centrum werd later gesloten, nadat de Republikeinen de organisatie ervan beschuldigden Amerikanen te censureren.
Het ministerie van Buitenlandse Zaken reageerde op het moment van publicatie niet op een verzoek om commentaar.
‘Versnellers’
Politieke deepfakes en door AI gegenereerde inhoud zijn nu gemeengoed. Een paar jaar geleden werden door AI gegenereerde tv-ankers het verspreiden van regeringsgezinde gespreksonderwerpenschijnbaar bedoeld om het idee te promoten dat de economie en veiligheid van Venezuela over het algemeen goed waren, ging viraal door het hele land. In 2024 lanceerde een partij die banden had met de voormalige president van Zuid-Afrika, Jacob Zuma, heeft een deepfake-video gedeeld met een door AI gegenereerde Donald Trump die hun platform onderschrijft (dat was verre van de het enige voorbeeld in het land). Zoals zelfs het recente New York City burgemeestersverkiezingen bleekwordt AI vaak ingezet tijdens gespannen campagneseizoenen.
Het Knight First Amendment Institute, dat analyseerde het gebruik van AI bij verkiezingen in 2024ontdekte dat veel toepassingen van AI, vooral tijdens verkiezingstijd, niet noodzakelijkerwijs bedoeld zijn om te misleiden – en dat desinformatie niet altijd op basis van AI wordt gecreëerd. Het probleem is niet alleen dat het gemakkelijk is om desinformatie te maken met AI, maar dat mensen openstaan voor het opnemen van desinformatie. Met andere woorden: er is vraag naar dit soort inhoud.
“Deepfakes zijn in deze context niet alleen desinformatie, het zijn versnellers”, zegt Emmanuelle Saliba, hoofdonderzoeker bij GetReal Security, een ander bedrijf dat deepfakes opspoort. Snel bedrijf. “Hoewel een deel van de verzonnen inhoud die we hebben zien circuleren, is gemaakt om de memecultuur te voeden, is een deel ervan gemaakt en verspreid om mensen te verwarren en te destabiliseren in een toch al onstabiel klimaat. Vertrouwen hangt aan een zijden draadje.”
