In de uren nadat een gemaskerde federale agent Renee Nicole Good, een 37-jarige vrouw in Minneapolis, had doodgeschoten, gebruikers van sociale media hebben gedeeld AI-gewijzigde afbeeldingen ze beweren ten onrechte dat ze de officier hebben ‘ontmaskerd’, waardoor hun echte identiteit wordt onthuld. De agent werd later door Tricia McLaughlin, woordvoerder van het ministerie van Binnenlandse Veiligheid, geïdentificeerd als een immigratie- en douanehandhavingsfunctionaris.
De schietpartij vond woensdagochtend plaats en sociale media-beelden van de scène toont twee gemaskerde federale agenten die een SUV naderen die midden op de weg geparkeerd staat in een buitenwijk ten zuiden van het centrum van Minneapolis. Eén van de agenten lijkt de bestuurder te vragen uit te stappen voordat hij de deurklink vastpakt. Op dit punt lijkt het alsof de bestuurder achteruit rijdt, voordat hij vooruit rijdt en een bocht maakt. Een derde gemaskerde federale officier, die aan de voorkant van het voertuig staat, haalt een pistool tevoorschijn en vuurt op het voertuig, waarbij Good om het leven komt.
De video’s van het incident die kort na de schietpartij op sociale media werden gedeeld, bevatten geen beelden van de gemaskerde ICE-agenten met hun maskers af. Binnen enkele uren na de schietpartij begonnen echter meerdere afbeeldingen van een ontmaskerde agent op het internet te circuleren.
De afbeeldingen lijken schermafbeeldingen te zijn die zijn genomen van de daadwerkelijke videobeelden, maar zijn aangepast met kunstmatige intelligentietools om het gezicht van de officier te creëren.
WIRED beoordeelde meerdere AI-gewijzigde afbeeldingen van de ontmaskerde agent die werden gedeeld op elk mainstream sociale-mediaplatform, waaronder X, Facebook, Threads, Instagram, BlueSky en TikTok. “We hebben zijn naam nodig”, Claude Taylor, de oprichter van anti-Trump Mad Dog PAC, schreef in een bericht op X met een door AI gewijzigde afbeelding van de agent. Het bericht is ruim 1,2 miljoen keer bekeken. Taylor reageerde niet op een verzoek om commentaar.
Op Threads plaatste een account met de naam “Influencer_Queeen” een door AI gewijzigde afbeelding van de agent en schreef: “Laten we zijn adres opzoeken. Maar concentreer je alleen op HEM. Niet op zijn kinderen.” Het bericht is bijna 3.500 keer geliket.
“AI-aangedreven verbetering heeft de neiging om gezichtsdetails te hallucineren, wat leidt tot een verbeterd beeld dat visueel duidelijk kan zijn, maar dat ook verstoken kan zijn van de realiteit met betrekking tot biometrische identificatie”, zegt Hany Farid, een professor aan de UC-Berkeley die in het verleden bestudeerde het vermogen van AI om gezichtsbeelden te verbeterenvertelt WIRED. “In deze situatie waarin de helft van het gezicht verborgen is, is AI, of welke andere techniek dan ook, naar mijn mening niet in staat om de gezichtsidentiteit nauwkeurig te reconstrueren.”
Sommige mensen die de afbeeldingen plaatsten, beweerden ook, zonder bewijs, de agent te hebben geïdentificeerd, de namen van echte mensen te hebben gedeeld en, in een aantal gevallen, links te hebben gegeven naar de sociale media-accounts van deze mensen.
WIRED heeft bevestigd dat twee van de namen die in omloop zijn, niet direct verband lijken te houden met iemand die geassocieerd is met ICE. Hoewel veel van de berichten die deze AI-afbeeldingen delen, een beperkte betrokkenheid hebben, hebben sommige aanzienlijke grip gekregen.
Een van de namen die zonder bewijs online worden gedeeld, is Steve Grove, de CEO en uitgever van de Minnesota Star Tribune, die eerder in de regering van gouverneur Tim Walz van Minnesota werkte. “We houden momenteel een gecoördineerde online desinformatiecampagne in de gaten, waarbij ten onrechte de ICE-agent wordt geïdentificeerd die betrokken was bij de schietpartij van gisteren”, vertelt Chris Iles, vice-president communicatie bij de Star Tribune, aan WIRED. “Voor alle duidelijkheid: de ICE-agent heeft geen bekende banden met de Minnesota Star Tribune en is zeker niet onze uitgever en CEO Steve Grove.”
Dit is niet de eerste keer dat AI problemen veroorzaakt na een schietpartij. Een soortgelijke situatie deed zich in september voor Charlie Kirk werd vermoord en er was een AI-gemanipuleerd beeld van de schutter, gebaseerd op korrelige videobeelden vrijgegeven door wetshandhavingsinstanties op grote schaal online gedeeld. Het AI-beeld leek in niets op de man die uiteindelijk werd gevangengenomen en beschuldigd van de moord op Kirk.
