De nieuwste AI-aangedreven scam waarschuwing: Online oplichters gebruiken AI-deepfakes van Hollywood-favorieten, waaronder Taylor Swift en Rihanna, om TikTok-gebruikers ertoe te verleiden zich aan te melden voor frauduleuze beloningsprogramma’s.
Volgens een nieuw rapport van KopieerlekkenTikTok heeft een stijging gezien in nep-rodelopervideo’s van door AI gegenereerde beroemdheden, zoals Kim Kardashian, die gebruikers lijken aan te moedigen zich aan te melden voor ‘frauduleuze of kwaadaardige diensten’. Voorbeelden zijn onder meer nachtelijke clips van Swift waarin reclame wordt gemaakt voor een mysterieuze “TikTok Pay” -functie en clips in het perscircuit van Rihanna Schilling voor een programma waarbij kijkers worden beloond.
De synthetische nabootsingen zijn niet geheel overtuigend, met typisch verontrustende gezichtsbewegingen en niet-gesynchroniseerde audio, maar dat houdt vermeende oplichters niet tegen. Veel van de clips gebruiken de TikTok-branding en voegen textuurfilters toe om de AI-detectietools van het platform schijnbaar te omzeilen. Wanneer gebruikers op de video’s klikken, worden ze doorgestuurd naar sites van derden die vervolgens om persoonlijk identificeerbare informatie vragen.
Mashable trendrapport
Copyleaks heeft een toename gemeld van door AI ondersteunde deepfake-fraude op sociale-mediaplatforms, waarvan sommige hypergeseksualiseerde, niet-consensuele deepfakes van beroemdheden omvatten. Meta was onlangs het doelwit van a class action-rechtszaak ingediend namens de Consumer Federation of America, waarin wordt beweerd dat het bedrijf heeft geprofiteerd van oplichting met Facebook-advertenties.
Ondertussen heeft Hollywood nog steeds geen ingrijpende oplossing bedacht voor niet-consensuele deepfakes van beroemdheden. Eerder deze week zou Swift naar verluidt een aanvraag hebben ingediend handelsmerk haar stem en gelijkenis te midden van door AI gegenereerde deepfakes en de groeiende publieke aandacht voor postume legacy-projecten. Andere beroemdheden hebben dat wel gedaan hetzelfde gedaan.
