De Europese Unie heeft hiernaar een formeel onderzoek geopend Elon Musk’s sociale mediaplatform X maandag erna zijn kunstmatige intelligentie-chatbot Grok spuwde niet-consensuele geseksualiseerde deepfake-beelden op het platform.
Europese toezichthouders hebben ook een afzonderlijk, lopend onderzoek naar de aanbevelingssystemen van X uitgebreid nadat het platform had gezegd dat het zou overstappen naar het AI-systeem van Grok om te kiezen welke berichten gebruikers zien.
De kritiek vanuit Brussel komt nadat Grok een wereldwijde reactie teweegbracht door gebruikers er doorheen te laten gaan Mogelijkheden voor het genereren en bewerken van AI-beelden om mensen uit te kleden, vrouwen in transparante bikini’s te zetten of kleding te onthullen.
Onderzoekers zeiden dat sommige afbeeldingen kinderen leken te bevatten. Sommige regeringen hebben de dienst verboden of waarschuwingen afgegeven.
Het uitvoerend orgaan van de EU, dat uit 27 landen bestaat, zei dat het onderzoekt of X genoeg heeft gedaan zoals vereist door de digitale regelgeving van het blok om de risico’s van het verspreiden van illegale inhoud, zoals “gemanipuleerde seksueel expliciete beelden”, te beperken.
Dat omvat inhoud die “kan neerkomen op materiaal met seksueel misbruik van kinderen”, aldus de Europese Commissie. Deze risico’s zijn nu “gematerialiseerd”, aldus de commissie, waardoor de burgers van het blok aan “ernstige schade” zijn blootgesteld.
Toezichthouders zullen onderzoeken of Grok aan zijn verplichtingen voldoet de Wet digitale dienstenhet uitgebreide regelboek van het blok om internetgebruikers te beschermen tegen schadelijke inhoud en producten.
Ontvang het laatste nationale nieuws
Voor nieuws dat van invloed is op Canada en de rest van de wereld kunt u zich aanmelden voor de laatste nieuwswaarschuwingen die rechtstreeks aan u worden verzonden wanneer ze zich voordoen.
In reactie op een verzoek om commentaar verwees een woordvoerster van X The Associated Press naar een eerdere verklaring dat het bedrijf “zich blijft inzetten om van X een veilig platform voor iedereen te maken” en dat het “nultolerantie” hanteert ten aanzien van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
In de X-verklaring van 14 januari stond ook dat gebruikers niet langer zouden worden toegestaan mensen in ‘bikini’s, ondergoed of andere onthullende kledij’ af te beelden, maar alleen op plaatsen waar dit als illegaal wordt beschouwd.
“Seksuele deepfakes van vrouwen en kinderen zonder wederzijds goedvinden zijn een gewelddadige, onaanvaardbare vorm van degradatie”, zegt Henna Virkkunen, uitvoerend vice-president bij de commissie, in een verklaring.
“Met dit onderzoek zullen we bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan, of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als bijkomende schade van zijn dienstverlening”, zegt Virkkunen, die toezicht houdt op technische soevereiniteit, veiligheid en democratie.
Musk’s kunstmatige intelligentiebedrijf xAI lanceerde afgelopen zomer de beeldtool van Grok. Maar het probleem begon pas eind vorige maand een sneeuwbaleffect te krijgen, toen Grok schijnbaar een groot aantal gebruikersverzoeken inwilligde om afbeeldingen te wijzigen die door anderen waren geplaatst.
Het probleem werd versterkt omdat Musk zijn chatbot neerzet als een scherper alternatief met minder waarborgen dan rivalen, en omdat de reacties van Grok op X publiekelijk zichtbaar zijn en daarom gemakkelijk kunnen worden verspreid.
Het EU-onderzoek heeft alleen betrekking op de service van Grok op X, en niet op de website en zelfstandige app van Grok. Dat komt omdat de DSA alleen van toepassing is op de grootste online platforms.
Er is geen deadline voor het blok om de zaak op te lossen, wat zou kunnen resulteren in een belofte van X om zijn gedrag te veranderen of een flinke boete.
In december heeft Brussel X een boete van 120 miljoen euro (toen 140 miljoen dollar) opgelegd als onderdeel van het eerder lopende DSA-onderzoek, wegens tekortkomingen, waaronder blauwe vinkjes die de regels over ‘misleidende ontwerppraktijken’ overtreden die het risico liepen gebruikers bloot te stellen aan oplichting en manipulatie.
Het blok heeft X ook onder de loep genomen vanwege beschuldigingen dat Grok antisemitisch materiaal zou hebben gegenereerd en heeft de site om meer informatie gevraagd.
Maleisië en Indonesië blokkeerden eerder deze maand de toegang tot Grok als reactie op de controverse en waren daarmee de eerste landen die dit deden.
Vrijdag zeiden de Maleisische autoriteiten dat ze de tijdelijke beperking hadden opgeheven nadat het bedrijf aanvullende beveiligings- en preventiemaatregelen had getroffen, zonder verdere details te geven. De Maleisische toezichthouders zeiden dat ze vorige week een ontmoeting hadden gehad met de vertegenwoordigers van X en de situatie in de gaten zouden blijven houden.
© 2026 De Canadese pers
