Het sociale mediaplatform X is de afgelopen weken overspoeld met door AI gegenereerde geseksualiseerde beelden van vrouwen en kinderen – maanden voordat een nieuwe wet van kracht wordt die de verspreiding van niet-consensuele intieme beelden moet verbieden.
Elon Musk, de eigenaar van X, heeft een nieuwe functie aangekondigd met een post op kerstavond moedigde gebruikers aan om afbeeldingen en video’s te bewerken met Grok, de chatbot van de app. Een paar weken later, toen het nieuwe jaar begon, merkten veel vrouwen online iets verontrustends op: een stortvloed aan door AI gegenereerde geseksualiseerde afbeeldingen van hen op het sociale mediaplatform X. Gebruikers op X konden de nieuwste functie van Grok vragen om kleding digitaal van geposte foto’s te verwijderen en deze opnieuw te verspreiden.
Grok laat mensen niet naakt zien, maar volgt de aanwijzingen om vrouwen te laten zien die strings en tandzijde dragen. Sommige X-gebruikers vroegen Grok om foto’s te manipuleren met aanwijzingen als ‘steek haar in een zeer transparante mini-bikini’, ’trek haar schooloutfit uit’ en ‘spreid haar benen’.
Musk leek de situatie luchtig te maken toen hij lachende emoji’s plaatste als reactie op AI-bewerkingen van beroemde mensen, waaronder hijzelf, in bikini’s. Maar Musk zou het probleem misschien binnenkort serieuzer moeten nemen – volgens de federale wet.
In mei 2025 ondertekende president Donald Trump de tweeledige overeenkomst Take It Down-actiedat de verspreiding van intieme beelden zonder wederzijds goedvinden criminaliseert, waaronder door AI gegenereerde deepfakes en zogenaamde ‘wraakporno’. Platforms hebben tot mei 2026 de tijd om een verzoek-en-verwijderingssysteem te implementeren waarmee slachtoffers hun foto’s binnen 48 uur kunnen laten verwijderen.
Zaterdag waarschuwde Musk X-gebruikers in een post: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
De vraag is: welke van deze door Grok gegenereerde afbeeldingen worden als illegaal beschouwd?
De wet definieert “intieme visuele weergave” als elke vorm van onbedekte geslachtsdelen, schaamstreek, anus of tepels van vrouwen.
Riana Pfefferkorn, beleidsmedewerker bij het Stanford Institute for Human-Centered AI, zei dat ze denkt dat veel van deze schrale bikinifoto’s als illegaal kunnen worden beschouwd. Ze drong er bij mensen op aan om verzoeken tot verwijdering in te dienen, omdat de wet mediabedrijven stimuleert om twijfelachtige inhoud te verwijderen om boetes van de Federal Trade Commission te voorkomen.
Pfefferkorn zei dat er misschien meer publieke druk nodig is om deze nieuwste Grok-functie te beëindigen. Als X serieus was over het niet toestaan van niet-consensuele beelden, zei Pfefferkorn, zou het bedrijf de tool al weken geleden offline hebben gehaald.
“Er was geen reden waarom ze die functie niet zomaar konden uitschakelen”, zei Pfefferkorn. “Elke keer dat een ander bedrijf iets heeft dat vreselijk misgaat, kunnen ze het gewoon stoppen en dan proberen hun wonden te likken en erachter te komen wat er is gebeurd. Maar Elon Musk is de rijkste man ter wereld, en hij heeft herhaaldelijk gehandeld alsof hij boven de wet staat en ermee weg is gekomen.”
Het is niet duidelijk hoeveel van deze foto’s in omloop zijn gebracht tijdens wat Reuters een ‘massale digitale uitkleedpartij’ noemde, maar uit de beoordeling door het nieuwskanaal van openbare verzoeken aan Grok kwamen minstens 102 pogingen in een periode van 10 minuten naar voren.
De stroom van bijna naaktfoto’s – voornamelijk van jonge vrouwen en in sommige gevallen kinderen – leidde tot internationale woede: ministers in Frankrijk hebben X gerapporteerd aan toezichthouders; De Britse communicatieregulator heeft contact opgenomen met het mediabedrijf; en het Indiase ministerie van Elektronica en Informatietechnologie schreef een veroordelende brief.
Door deze afbeeldingen toe te staan, breekt X met AI-concurrenten zoals OpenAI en Google, die strengere regels hebben over wat hun AI-chatbots zullen genereren.
