Vorige week, Taylor Swift heeft een aanvraag ingediend drie merkaanvragen om haar imago en stem te beschermen. Eén is bedoeld om een bekende foto te bedekken van de popzangeres die een roze gitaar vasthoudt tijdens een concert tijdens haar recordbrekende Eras-tour, terwijl de twee geluidsmerken bedoeld zijn voor eenvoudige identificerende zinnen: “Hey, it’s Taylor Swift” en “Hey, it’s Taylor.”
De verhuizing komt als AI-deepfakes blijven zich verspreiden via sociale media. Van elk individu kan zijn gelijkenis worden uitgebuit bij het creëren van niet-consensueel door AI gegenereerd materiaal; eerder deze maand was een man uit Ohio de eerste persoon veroordeeld onder een nieuwe federale wet die dit soort ‘intieme’ visuele misleidingen strafbaar stelt. Beroemdheden lopen ondertussen het risico van zowel expliciete deepfakes als valse aanbevelingen.
Een nieuwe rapport van het AI-detectiebedrijf Copyleaks laat zien dat hun gelijkenissen onlangs zijn gebruikt in oplichtingsadvertenties van Swift en andere sterren. Onderzoekers identificeerden een cluster van gesponsorde video’s op TikTok waarin Swift, Kim Kardashian, Rihanna en anderen ‘potentieel frauduleuze of kwaadaardige diensten’ leken te laten zien, waarbij de clips gebruik maakten van wat de onderzoekers ‘realistisch klinkende stemmen’ noemen, evenals ‘getextureerde filters die bedoeld zijn om enkele van de tekortkomingen in de door AI gegenereerde beelden te maskeren.’
De nepadvertenties tonen Swift et al. in wat gebruikelijke interviewsettings lijken te zijn: rode loper-evenementen of talkshowsets. In plaats van vragen te beantwoorden, praten de door AI gegenereerde beroemdheden echter over zogenaamde beloningsprogramma’s waarin TikTok-gebruikers worden betaald voor het geven van feedback op de inhoud die hen wordt aangeboden.
“Ik las deze week over digitaal gedrag en kwam een testfunctie tegen genaamd TikTok Pay”, zegt een deepfaked Swift in een advertentie die gebruik maakt van gemanipuleerd beeldmateriaal van een verschijning de echte Swift gemaakt The Tonight Show met Jimmy Fallon in de hoofdrol in oktober. “Bepaalde gebruikers worden uitgenodigd om video’s te bekijken en hun mening te geven.” De deepfaked Swift vervolgt met te zeggen dat het programma momenteel in “beperkte uitrol” is, maar moedigt kijkers aan om te zien of ze ervoor in aanmerking komen, en voegt eraan toe: “Als de pagina voor je wordt geopend, denk er dan niet over na.”
Uiteraard wordt iedereen die klikt geaccepteerd. Deze advertenties leiden de gebruiker uiteindelijk naar een dienst van derden die, ondanks de TikTok-naam en het logo, kennelijk is gecodeerd met behulp van het AI-platform Lovable, waarvan de eigen branding op de pagina en in de URL verschijnt. Op dit punt, zeggen de onderzoekers, wordt de gebruiker gevraagd zijn naam en persoonlijke gegevens in te voeren.
Hoewel het niet duidelijk is wat de adverteerders van plan zijn met alle gegevens die zijn verzameld via hun deepfake-promotie voor beroemdheden, komen oplichtingsadvertenties met vergelijkbare doelstellingen buitengewoon vaak voor. Vorige week heeft de non-profit Consumentenfederatie van Amerika aangeklaagd Meta beweert dat de technologiegigant Facebook- en Instagram-gebruikers heeft misleid over zijn inspanningen om oplichtingsadvertenties aan te pakken – en geprofiteerd heeft van de verspreiding ervan. Dat heeft de Amerikaanse Federal Trade Commission maandag bekendgemaakt gerapporteerd dat het aantal oplichting via sociale media over het geheel genomen enorm is toegenomen, waarbij Facebook-oplichting verantwoordelijk is voor het hoogste totaal aan financiële verliezen.
Het is geen verrassing dat Swift en haar collega’s juridische stappen ondernemen om afstand te nemen van deze frauduleuze economie. Hoewel Swift niet publiekelijk heeft gereageerd op de redenering achter haar handelsmerkaanvragen, kan de reputatieschade die bedrieglijke deepfakes aan haar miljardenmerk toebrengen nauwelijks over het hoofd worden gezien. Het probleem is dat ze met de dag geavanceerder worden.
