Een nieuwe rechtszaak tegen XAI van Elon Musk beweert dat zijn vlaggenschip chatbot, Grokwerd gebruikt om geseksualiseerde deepfake-beelden van drie minderjarigen te maken – de inhoud komt volgens de klacht neer op materiaal van seksueel misbruik van kinderen.
De voorgestelde class action, die maandag is ingediend bij een federale rechtbank in Californië, beschuldigt de AI-startup ervan te profiteren van de ‘seksuele predatie van echte mensen, inclusief kinderen’.
“Bijna alle bedrijven die AI creëren, op de markt brengen en verkopen, erkenden de gevaren van een dergelijk hulpmiddel en kozen ervoor om industriestandaard vangrails in te voeren die het gebruik van hun producten door een uiterst gevaarlijke groep zouden verhinderen: kinderseksroofdieren. XAI deed dat niet”, aldus de rechtszaak.
Vertegenwoordigers van Musk en xAI reageerden niet onmiddellijk op een verzoek om commentaar van Business Insider.
Musk zei eerder in een post op X in januari dat hij “niet op de hoogte was van naakte minderjarige beelden gegenereerd door Grok. Letterlijk nul.”
Grok genereert afbeeldingen op basis van gebruikersprompts, schreef hij.
“Wanneer hem wordt gevraagd om afbeeldingen te genereren, zal het weigeren iets illegaals te produceren, omdat het werkingsprincipe van Grok is om de wetten van een bepaald land of een bepaalde staat te gehoorzamen”, zei Musk. “Er kunnen momenten zijn waarop vijandig hacken van Grok-prompts iets onverwachts doet. Als dat gebeurt, repareren we de bug onmiddellijk.”
In de rechtszaak tegen xAI wordt gesteld dat de aanklagers uit Tennessee “drie van de minderjarige slachtoffers zijn van xAI’s wetende productie, bezit en distributie van door AI gegenereerd materiaal over seksueel misbruik van kinderen”, waarin zij worden afgebeeld.
De aanklagers, in de rechtszaken alleen geïdentificeerd als Jane Doe 1, Jane Doe 2 en Jane Doe 3, beweren dat de AI-tools van xAI werden gebruikt om naaktfoto’s en -video’s van hen te maken. Jane Doe 1, recent volwassen, was minderjarig ten tijde van de vermeende incidenten, terwijl de twee andere eisers volgens de rechtszaak nog minderjarig zijn.
In december 2025 ontving Jane Doe 1 een bericht van een anoniem Instagram-account waarin ze werd gewaarschuwd dat “foto’s” van haar waren gemaakt door iemand die ze kende en verspreid waren via het groepchatplatform Discord.
“Via een reeks berichten legde de anonieme gebruiker verder uit dat de dader een map met beeld- en videobestanden waarop zij en andere minderjarige vrouwen te zien waren, naar Discord had geüpload”, aldus de rechtszaak.
De anonieme gebruiker stuurde Jane Doe 1 uiteindelijk verschillende geseksualiseerde, door AI gegenereerde afbeeldingen en video’s van haar en andere minderjarige meisjes, aldus de rechtszaak.
“Minstens vijf van deze bestanden, één video en vier afbeeldingen, beeldden haar werkelijke gezicht en lichaam af in omgevingen waarmee ze vertrouwd was, maar veranderden in seksueel expliciete poses”, aldus de rechtszaak. “De beelden toonden haar hele lichaam, inclusief haar geslachtsdelen, zonder enige kleding. De video liet zien dat ze zich uitkleedde totdat ze helemaal naakt was.”
Jane Doe 1 waarschuwde de andere minderjarigen op de beelden en hun families, en er werd volgens de rechtszaak een strafrechtelijk onderzoek geopend in Tennessee. Het voegde eraan toe dat de lokale politie in december 2025 een verdachte arresteerde in verband met de zaak.
Vorige maand kwam Jane Doe 2 er door het onderzoek achter dat ten minste twee van haar afbeeldingen ook waren gebruikt om seksueel expliciete, door AI gegenereerde inhoud te produceren met behulp van de tools van xAI, aldus de rechtszaak.
Lokale wetshandhavers vertelden het meisje en haar moeder dat een foto van het meisje op het strand in een blauwe bikini “vervormd was om haar zonder kleren af te beelden”, aldus de rechtszaak.
De autoriteiten lieten Jane Doe 3 ook weten dat de door AI gegenereerde afbeeldingen die op de telefoon van de verdachte waren gevonden, er een bevatten die “vervormd was om haar volledig naakt weer te geven”, aldus de rechtszaak.
Vanessa Baehr-Jones, advocaat van de eisers, vertelde Business Insider dat haar cliënten een ‘nachtmerrie’ hebben doorstaan.
“Hun CSAM-beelden en video’s waarin ze worden afgebeeld toen ze minderjarig waren, zijn nu voor altijd op internet te vinden in deze duistere netwerelden van kinderseksroofdieren”, zei Baehr-Jones. “De schade daarvan is acuut.”
De advocaat zei dat ze hoopt dat de rechtszaak “verantwoordelijkheid” voor xAI met zich meebrengt en dat “het allerbelangrijkste is dat dit nooit met enig ander slachtoffer mag gebeuren.”
De rechtszaak eist een niet-gespecificeerde schadevergoeding en beschuldigt xAI van productie met de bedoeling onder meer kinderpornografie, distributie van kinderpornografie en bezit van kinderpornografie te verspreiden.
“In ons rechtssysteem is geld de manier waarop we bedrijven laten betalen voor de schade die ze hebben veroorzaakt”, zegt Annika Martin, een andere advocaat van de eisers. “Omdat bedrijven winstbejag zijn, is het raken van de portemonnee de enige manier om hun besluitvorming te beïnvloeden.”
Eerder dit jaar, xAI’s Grok veroorzaakte een enorme terugslag nadat de AI-beeldgenerator werd gebruikt om niet-consensuele geseksualiseerde beelden van echte mensen te maken.
In reactie hierop zei X, de sociale mediasite die Musk in maart aan xAI verkocht, dat Grok dat zou doen niet langer in staat zijn om AI-afbeeldingen te genereren van echte mensen in geseksualiseerde of onthullende kleding.
Ashley St. Clairdie in 2024 beviel van een van de zoons van Elon Musk, klaagde xAI in januari aan, omdat Grok op verzoek van gebruikers seksueel expliciete deepfakes van haar had gegenereerd.
De Franse autoriteiten onderzoeken Grok ook vanwege geseksualiseerde deepfakes.
