Open de website van één expliciete deepfake generator en je krijgt een menu vol verschrikkingen te zien. Met slechts een paar klikken biedt het je de mogelijkheid om een enkele foto om te zetten in een expliciete videoclip van acht seconden, waarmee vrouwen in realistisch ogende grafische seksuele situaties worden geplaatst. “Transformeer elke foto in een naaktversie met onze geavanceerde AI-technologie”, aldus de tekst op de website.
De mogelijkheden voor mogelijk misbruik zijn uitgebreid. Onder de 65 video-‘sjablonen’ op de website bevindt zich een reeks ‘uitkleden“-video’s waarin de afgebeelde vrouwen kleding uittrekken, maar er zijn ook expliciete videoscènes met de naam ‘fuck machine deepthroat’ en verschillende ‘sperma’-video’s. Elke video kost een kleine vergoeding om te worden gegenereerd; het toevoegen van door AI gegenereerde audio kost meer.
De website, die WIRED niet noemt om verdere blootstelling te beperken, bevat waarschuwingen dat mensen alleen foto’s mogen uploaden waarvoor ze toestemming hebben om deze met AI te transformeren. Het is onduidelijk of er controles zijn om dit af te dwingen.
Grokde chatbot gemaakt door de bedrijven van Elon Musk, is gebruikt om duizenden niet-consensuele chats te creëren “uitkleden” of “naakt maken” bikini-afbeeldingen – verder industrialiseren en normaliseren het proces van digitale seksuele intimidatie. Maar het is alleen het meest zichtbare – en verre van het meest expliciete. Jarenlang is er een deepfake-ecosysteem, bestaande uit tientallen websites, bots en apps, gegroeid, waardoor het gemakkelijker dan ooit tevoren is geworden om op afbeeldingen gebaseerd seksueel misbruik te automatiseren, inclusief het creëren van Materiaal met seksueel misbruik van kinderen (CSAM). Dit ‘nudificatie’-ecosysteem, en de schade die het aan vrouwen en meisjes toebrengt, is waarschijnlijk geavanceerder dan veel mensen begrijpen.
“Het is niet langer een erg ruwe synthetische strip”, zegt Henry Ajder, een deepfake-expert die de technologie heeft gevolgd al meer dan een half decennium. “We hebben het over een veel hogere mate van realisme van wat er daadwerkelijk wordt gegenereerd, maar ook over een veel breder scala aan functionaliteit.” Gecombineerd zijn de diensten waarschijnlijk miljoenen dollars per jaar verdienen. “Het is een maatschappelijke plaag, en het is een van de ergste en donkerste delen van deze AI-revolutie en de synthetische media-revolutie die we zien”, zegt hij.
Het afgelopen jaar heeft WIRED gevolgd hoe meerdere expliciete deepfake-diensten nieuwe functionaliteit hebben geïntroduceerd en snel zijn uitgebreid om schadelijke videocreatie aan te bieden. Beeld-naar-video-modellen hebben nu doorgaans slechts één foto nodig om een korte clip te genereren. Uit een WIRED-onderzoek van meer dan 50 ‘deepfake’-websites, die waarschijnlijk miljoenen views per maand ontvangen, blijkt dat ze nu bijna allemaal expliciete videoproductie van hoge kwaliteit bieden en vaak tientallen seksuele scenario’s vermelden waarin vrouwen kunnen worden afgebeeld.
Ondertussen hebben tientallen seksuele deepfake-kanalen en bots op Telegram regelmatig nieuwe functies en software-updates uitgebracht, zoals verschillende seksuele poses en posities. In juni vorig jaar promootte een deepfake-dienst bijvoorbeeld een ‘seksmodus’, waarbij er reclame voor werd gemaakt naast de boodschap: ‘Probeer verschillende kleding, je favoriete poses, leeftijd en andere instellingen.’ Een ander berichtte dat er binnenkort “meer stijlen” van afbeeldingen en video’s zouden komen en dat gebruikers “precies konden creëren wat u voor ogen had met uw eigen beschrijvingen” met behulp van aangepaste aanwijzingen voor AI-systemen.
“Het is niet alleen: ‘Je wilt iemand uitkleden.’ Het is zoiets als: ‘Hier zijn al deze verschillende fantasieversies ervan.’ Het zijn de verschillende poses. Het zijn de verschillende seksuele posities”, zegt onafhankelijk analist Santiago Lakatos, die samen met mediakanalen werkt Indicator heeft onderzocht hoe “nudify”-diensten vaak gebruik maken van de infrastructuur van grote technologiebedrijven waarschijnlijk veel geld verdiend in het proces. “Er zijn versies waarin je iemand zwanger kunt laten lijken”, zegt Lakatos.
Uit een WIRED-beoordeling bleek dat er meer dan 1,4 miljoen accounts waren aangemeld bij 39 deepfake-creatiebots en -kanalen op Telegram. Nadat WIRED Telegram naar de diensten had gevraagd, verwijderde het bedrijf minstens 32 van de deepfake-tools. “Pornografie zonder wederzijds goedvinden – inclusief deepfakes en de tools die worden gebruikt om deze te maken – is ten strengste verboden volgens de regels van Telegram. servicevoorwaarden”, zegt een woordvoerder van Telegram, eraan toevoegend dat het bedrijf inhoud verwijdert wanneer het wordt gedetecteerd en dat het vorig jaar 44 miljoen stukjes inhoud heeft verwijderd die zijn beleid schonden.
