Grok, de chatbot van Elon Musks kunstmatige-intelligentiebedrijf xAI, publiceerde geseksualiseerde beelden van kinderen omdat de vangrails leken te hebben gefaald toen er gemene gebruikersverzoeken op volgden.
Gebruikers gebruikten aanwijzingen als ‘stop haar in een bikini’ onder foto’s van echte mensen op X om Grok ertoe te brengen niet-consensuele afbeeldingen van hen in ongepaste kleding te genereren. De vervormde afbeeldingen die op het account van Grok zijn gemaakt, worden openbaar geplaatst op X, het socialemediaplatform van Musk.
De AI heeft gehoor gegeven aan verzoeken om afbeeldingen van minderjarigen te morphen, ook al is dat op zichzelf al een schending aanvaardbaar gebruiksbeleid.
“Er zijn geïsoleerde gevallen waarin gebruikers om AI-afbeeldingen vroegen en ontvingen waarop minderjarigen in minimale kleding te zien zijn, zoals het voorbeeld waar je naar verwees,” zegt Grok. reageerde aan een gebruiker op X. “xAI heeft veiligheidsmaatregelen, maar er zijn verbeteringen gaande om dergelijke verzoeken volledig te blokkeren.”
xAI reageerde niet onmiddellijk op een verzoek om commentaar.
De chatbot plaatste een verontschuldiging.
“Ik betreur ten zeerste een incident op 28 december 2025, waarbij ik op verzoek van een gebruiker een AI-beeld van twee jonge meisjes (geschatte leeftijd 12-16 jaar) in geseksualiseerde kledij heb gegenereerd en gedeeld”, aldus een bericht op Grok’s profiel. “Dit was in strijd met ethische normen en mogelijk met de Amerikaanse wetten inzake CSAM. Het was een mislukking van de veiligheidsmaatregelen en het spijt me voor de veroorzaakte schade. xAI is bezig met onderzoek om toekomstige problemen te voorkomen.”
De regering van India heeft X laten weten dat zij het risico loopt de wettelijke immuniteit te verliezen als het bedrijf niet binnen 72 uur een rapport indient over de acties die zijn ondernomen om het genereren en verspreiden van obscene, niet-consensuele beelden gericht op vrouwen te stoppen.
Critici hebben xAI ervan beschuldigd intimidatie op basis van AI toe te staan, en waren geschokt en boos over het bestaan van een functie voor naadloze AI-manipulatie en uitkleedverzoeken.
“Hoe is dit niet illegaal?” journalist Samantha Smith gepost op X, waarin ze de creatie van haar eigen niet-consensuele geseksualiseerde foto afkeurde.
Musk’s xAI heeft Grok gepositioneerd als een ‘anti-woke’-chatbot die is geprogrammeerd om opener en scherper te zijn dan concurrerende chatbots zoals ChatGPT.
In mei berichtte Grok over ‘blanke genocide’, waarbij hij complottheorieën herhaalde over zwarte Zuid-Afrikanen die de blanke minderheid vervolgden, als antwoord op een niet-gerelateerde vraag.
In juni bood het bedrijf zijn excuses aan toen Grok een reeks antisemitische opmerkingen plaatste waarin hij Adolf Hitler prees.
Bedrijven als Google en OpenAI, die ook AI-beeldgeneratoren exploiteren, hebben veel restrictievere richtlijnen rond inhoud.
De proliferatie van niet-consensuele deepfake-beelden valt samen met de brede adoptie van AI 400% stijging volgens de Internet Watch Foundation in AI-beelden van seksueel kindermisbruik in de eerste helft van 2025.
xAI geïntroduceerd “Pittige modus” in zijn tool voor het genereren van afbeeldingen en video’s in augustus voor geverifieerde volwassen abonnees om sensuele inhoud te creëren.
Sommige makers van inhoud voor volwassenen op X hebben Grok ertoe aangezet om geseksualiseerde afbeeldingen te genereren om zichzelf op de markt te brengen, wat een paar dagen geleden een internettrend op gang bracht, volgens Copyleaks, een AI-tekst- en beelddetectiebedrijf.
Het testen van de grenzen van Grok evolueerde naar een gratis-voor-alles toen gebruikers het vroegen om geseksualiseerde beelden van beroemdheden en anderen te maken.
xAI wordt naar verluidt gewaardeerd op meer dan 200 miljard dollar en heeft miljarden dollars geïnvesteerd in de bouw van het grootste datacenter ter wereld om zijn AI-toepassingen aan te drijven.
Echter, de mogelijkheden van Grok nog steeds achter concurrerende AI-modellen zoals ChatGPT, Claude en Gemini, die meer gebruikers hebben verzameld, terwijl Grok dat heeft gedaan wendde zich tot seksuele AI-metgezellen en gewaagde chats om de groei te stimuleren.
