Franse aanklagers deden een inval in de kantoren van sociale mediaplatform X dinsdag als onderdeel van een voorlopig onderzoek naar beschuldigingen, waaronder het verspreiden van kinderen afbeeldingen van seksueel misbruik en deepfakes. Ze hebben ook miljardair opgeroepen eigenaar Elon Musk voor ondervraging.
X en Musk’s kunstmatige intelligentie bedrijf xAI wordt ook geconfronteerd met intensiever toezicht van de Britse toezichthouder voor gegevensprivacy, die formeel onderzoek heeft geopend naar de manier waarop zij met persoonlijke gegevens omgingen toen zij Musks kunstmatige intelligentie-chatbot Grok ontwikkelden en implementeerden.
Grok, gebouwd door xAI en beschikbaar via X, veroorzaakte vorige maand wereldwijde verontwaardiging nadat het een stortvloed aan geseksualiseerde, niet-consensuele deepfake-afbeeldingen verspreidde als reactie op verzoeken van X-gebruikers.
Het Franse onderzoek werd in januari vorig jaar geopend door de cybercriminaliteitseenheid van de aanklager, aldus het parket van de aanklager in Parijs in een verklaring. Het onderzoekt onder meer vermeende “medeplichtigheid” aan het bezit en verspreiden van pornografische afbeeldingen van minderjarigen, seksueel expliciete deepfakes, ontkenning van misdaden tegen de menselijkheid en manipulatie van een geautomatiseerd gegevensverwerkingssysteem als onderdeel van een georganiseerde groep.
Aanklagers hebben Musk en voormalig CEO Linda Yaccarino op 20 april gevraagd om “vrijwillige interviews” bij te wonen. Medewerkers van X zijn diezelfde week ook opgeroepen om als getuigen te worden gehoord, aldus de verklaring. Yaccarino was CEO van mei 2023 tot juli 2025.
Een woordvoerder van X reageerde niet op meerdere verzoeken om commentaar. De advocaat van X in Frankrijk, Kami Haeri, zei tegen The Associated Press: “We geven in dit stadium geen commentaar.”
In een bericht op X maakte het parket van Parijs de lopende huiszoekingen in de kantoren van het bedrijf in Frankrijk bekend en zei het het platform te verlaten, terwijl het volgers opriep om zich bij het bedrijf aan te sluiten op andere sociale media.
“In dit stadium is de uitvoering van het onderzoek gebaseerd op een constructieve aanpak, met als doel er uiteindelijk voor te zorgen dat het X-platform voldoet aan de Franse wet, zoals het op nationaal grondgebied opereert”, aldus de verklaring van de aanklagers.
Politiebureau Europol van de Europese Unie “steunt de Franse autoriteiten hierin”, zei Europol-woordvoerder Jan Op Gen Oorth tegen de AP, zonder er verder op in te gaan.
De Franse autoriteiten openden hun onderzoek na rapporten van een Franse wetgever die beweerde dat bevooroordeelde algoritmen op X waarschijnlijk de werking van een geautomatiseerd gegevensverwerkingssysteem verstoorden.
Het breidde zich uit nadat Grok berichten had geplaatst waarin naar verluidt de Holocaust, een misdaad in Frankrijk, werd ontkend en seksueel expliciete deepfakes werden verspreid, aldus de verklaring.
Grok schreef in een breed gedeelde post in het Frans dat de gaskamers in het vernietigingskamp Auschwitz-Birkenau ontworpen waren voor “desinfectie met Zyklon B tegen tyfus” in plaats van voor massamoord – taal die lang geassocieerd werd met de ontkenning van de Holocaust.
In latere berichten op X draaide de chatbot zichzelf om en erkende dat zijn eerdere antwoord verkeerd was, door te zeggen dat het was verwijderd en wees op historisch bewijs dat Zyklon B werd gebruikt om meer dan 1 miljoen mensen in de gaskamers van Auschwitz te doden.
De chatbot leek vorig jaar ook Adolf Hitler te prijzen, in opmerkingen die X na klachten verwijderde.
In Groot-Brittannië zei het Information Commissioner’s Office dat het onderzoekt of X en xAI de wet hebben gevolgd bij het verwerken van persoonlijke gegevens en of Grok maatregelen heeft getroffen om het gebruik ervan te voorkomen om ‘schadelijke gemanipuleerde beelden’ te genereren.
“De rapporten over Grok roepen diep verontrustende vragen op over hoe de persoonlijke gegevens van mensen zijn gebruikt om intieme of geseksualiseerde beelden te genereren zonder hun medeweten of toestemming, en of de noodzakelijke waarborgen zijn getroffen om dit te voorkomen”, zegt William Malcolm, uitvoerend directeur bij de waakhond.
Hij specificeerde niet wat de straf zou zijn als uit het onderzoek zou blijken dat de bedrijven zich niet aan de wetgeving inzake gegevensbescherming hielden.
Een afzonderlijk onderzoek naar Grok dat vorige maand werd gelanceerd door de Britse mediaregulator Ofcom, is nog gaande.
Ofcom zei dinsdag dat het nog steeds bewijsmateriaal verzamelt en waarschuwde dat het onderzoek maanden zou kunnen duren.
X staat ook onder druk van de EU. De uitvoerende macht van het 27 landenblok opende vorige maand een onderzoek nadat Grok niet-consensuele geseksualiseerde deepfake-beelden op het platform had verspreid.
Brussel heeft X al een boete van 120 miljoen euro (toen 140 miljoen dollar) opgelegd wegens tekortkomingen in de verregaande digitale regelgeving van het blok, waaronder blauwe vinkjes die de regels overtreden op het gebied van “misleidende ontwerppraktijken” die het risico liepen gebruikers bloot te stellen aan oplichting en manipulatie.
Maandag maakte Musk’s ruimteverkennings- en raketbedrijf SpaceX bekend dat het xAI heeft overgenomen in een deal die ook Grok, X en zijn satellietcommunicatiebedrijf Starlink zal combineren.
Associated Press-schrijvers Nicolas Vaux-Montagny, Mike Corder, Sylvia Hui en Kelvin Chan hebben bijgedragen aan dit rapport.
—Sylvie Corbet, Associated Press
