Socialmediagigant X, voorheen Twitter, wordt geconfronteerd met wereldwijde veroordeling en harde maatregelen tegen zijn AI-chatbot Grok voor het creëren van deepfake seksuele beelden van kinderen en vrouwen op het platform dat eigendom is van de miljardair Elon Musk.
Maandag werden Indonesië en Maleisië de eerste landen ter wereld die Grok AI blokkeerden, uit bezorgdheid over niet-consensuele deepfake-seksuele beelden.
“De regering beschouwt seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, zei de Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid, in een verklaring.
De Maleisische Communicatie- en Multimediacommissie constateerde “herhaaldelijk misbruik” van de tool om obscene, seksueel expliciete en niet-consensuele gemanipuleerde beelden te genereren, waaronder inhoud waarbij vrouwen en minderjarigen betrokken zijn.
De toezichthouder zei dat er deze maand mededelingen zijn gedaan aan X Corp. en xAI waarin strengere waarborgen worden geëist.
De Europese Commissie is hardhandig opgetreden en heeft X opgedragen alle documenten met betrekking tot zijn AI-chatbot te bewaren – een bevel dat vragen heeft opgeroepen over de vraag of er juridische stappen zullen volgen.
“We zijn ons zeer goed bewust van het feit dat X for Grok nu een pittige modus biedt die expliciete seksuele inhoud toont, waarbij een deel van de output wordt gegenereerd met kinderlijke afbeeldingen”, zei Thomas Regnier, woordvoerder van de Europese Commissie, in een verklaring.
“Dit is niet pikant. Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk. Ik kan bevestigen dat we deze zaak zeer serieus onderzoeken.”
De Zweedse vice-premier Ebba Busch werd het slachtoffer van seksuele deepfakes toen door AI gegenereerde beelden van haar in bikini viraal gingen op het platform.
“Ik werd onvrijwillig uitgekleed door Elon Musk’s Grok op X. En laat ik heel duidelijk zijn: als vrouw bepaal ik wanneer, waar en aan wie ik mezelf laat zien in bikini. Ik heb twee kinderen. Mijn dochter is negen. Ik wil niet dat dit haar ooit overkomt”, zei Busch in een videoreactie die ze op X plaatste.
De Zweedse premier Ulf Kristersson omschreef de beelden als “een soort seksueel geweld” en zei: “Het is onsmakelijk, onaanvaardbaar en beledigend.”
Maandag startte de onafhankelijke onlineveiligheidswaakhond van Groot-Brittannië een onderzoek naar X vanwege “geseksualiseerde beelden” gegenereerd door Grok.
Ontvang het laatste nationale nieuws
Voor nieuws dat van invloed is op Canada en de rest van de wereld kunt u zich aanmelden voor de laatste nieuwswaarschuwingen die rechtstreeks aan u worden verzonden wanneer ze zich voordoen.
“Er zijn zeer verontrustende berichten dat het Grok AI-chatbotaccount op X wordt gebruikt om uitgeklede afbeeldingen van mensen te maken en te delen – wat kan neerkomen op intiem beeldmisbruik of pornografie – en geseksualiseerde afbeeldingen van kinderen die kunnen neerkomen op materiaal van seksueel misbruik van kinderen (CSAM),” zei Ofcom in een verklaring.
De waakhond vroeg xAI om een reactie op de aantijgingen tegen XAI en zei dat het bedrijf vrijdag vóór de deadline had gereageerd.
Als uit het onderzoek blijkt dat X de wet heeft overtreden, kan het een boete krijgen van maximaal 18 miljoen pond of 10 procent van de in aanmerking komende wereldwijde inkomsten, afhankelijk van welke van de twee het hoogste is.
De Britse premier Keir Starmer zei in een radio-interview dat X “de zaken op orde moet krijgen en dit materiaal moet ophelderen. We zullen hier actie op ondernemen omdat het eenvoudigweg niet te tolereren is.”
India gaf X opdracht om binnen 72 uur actie te ondernemen om de AI-chatbot te repareren, anders wordt er actie ondernomen.
Het Indiase ministerie van Elektronica en Informatietechnologie heeft X een formele kennisgeving gestuurd, waarin het bedrijf wordt beschuldigd van ‘grof misbruik’ van zijn AI en ‘obscene beelden of video’s van vrouwen op denigrerende of vulgaire wijze toestaat om hen op onfatsoenlijke wijze te kleineren’.
Als X dit niet naleeft, kan dit tot gevolg hebben dat X wordt geconfronteerd met actie op grond van de Indiase wetten op het gebied van cyber, strafrecht en kinderbescherming.
In Frankrijk hebben aanklagers een lopend onderzoek naar X, dat betrekking heeft op Grok die naar verluidt beweringen over het ontkennen van de Holocaust – een misdrijf in Frankrijk – zou hebben bevorderd, uitgebreid met seksueel expliciete deepfakes.
De regering signaleerde ook problemen met de communicatieregulator van het land over mogelijke inbreuken op de EU-wet op digitale diensten.
“Het internet is noch een wetteloze zone, noch een zone van straffeloosheid: zedendelicten die online worden gepleegd, zijn op zichzelf strafbare feiten en vallen volledig onder de wet, net zoals die welke offline worden gepleegd”, aldus de Franse regering.
In Brazilië rapporteerde een wetgever Grok en X aan federale aanklagers, waarbij hij er bij de regering op aandrong Grok en alle AI-functies van het X-netwerk uit te schakelen.
Doet Canada iets?
De Canadese minister van Kunstmatige Intelligentie, Evan Solomon, uitte zijn bezorgdheid over deepfake-seksueel misbruik toen Global News vroeg waarom de federale regering en ministers X nog steeds gebruiken.
“We moeten Canadezen, vooral vrouwen en jongeren, beschermen tegen uitbuiting. Platforms en AI-ontwikkelaars hebben de plicht om deze schade te voorkomen”, zei Solomon donderdag in een verklaring tegen X.
In de verklaring werden X, Grok of Elon Musk niet specifiek genoemd.
In een aparte verklaring zei hij zei dat Canada niet overweegt om X te verbieden.
“In tegenstelling tot berichten in de media overweegt Canada geen verbod op X”, voegde Solomon er zondag aan toe.
Er zijn “actieve discussies” binnen de Canadese regering over hoe te reageren op de voortdurende generatie van seksueel misbruikmateriaal op X, Global News heeft hiervan geleerd.
Musk’s kunstmatige intelligentiebedrijf, xAI, reageerde op een verzoek om commentaar van The Associated Press met het geautomatiseerde antwoord: “Legacy Media Lies.”
X ontkende echter niet dat de deepfake-seksuele inhoud die via Grok wordt gegenereerd, bestaat.
Toch beweerde het bedrijf in een bericht op zijn Safety-account nog steeds dat het actie onderneemt tegen illegale inhoud, inclusief materiaal over seksueel misbruik van kinderen, “door het te verwijderen, accounts permanent op te schorten en, indien nodig, samen te werken met lokale overheden en wetshandhavers.”
Het platform herhaalde ook een opmerking van Musk, die zei: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
– met bestanden van The Associated Press en Reuters
© 2026 Global News, een divisie van Corus Entertainment Inc.
