Vrouwen en meisjes dagen Grok van Elon Musk voor de rechter vanwege deepfakes van AI

Maandag drie meisjes heeft een class action-rechtszaak aangespannen tegen xAI, bewerend dat de Grok AI-tool van het bedrijf werd gebruikt om uit hun foto’s materiaal van seksueel misbruik van kinderen te genereren.

Deze nieuwe civiele zaak sluit zich aan bij ten minste twee andere die draaien om niet-consensuele deepfakes die zijn aangespannen tegen xAI, opgericht door miljardair Elon Musk. Die eerdere gevallen zijn gecentreerd rond niet-consensuele deepfakes die zijn gepost op X, het sociale mediaplatform dat ook eigendom is van Musk, terwijl deze nieuwe klacht betrekking heeft op een app van derden die afhankelijk is van Grok AI om afbeeldingen te maken.

Grok-beeldgeneratie debuteerde in december op Xen gebruikers vonden onmiddellijk manieren om seksueel expliciete afbeeldingen te genereren, ondanks dat naaktheid verboden was. Grok genereerde in negen dagen tijd meer dan 4,4 miljoen afbeeldingenvolgens een recensie van The New York Times, en 1,8 miljoen daarvan waren geseksualiseerde afbeeldingen van vrouwen. Onderzoekers van het non-profit Center for Countering Digital Hate naar schatting maakte Grok 23.000 geseksualiseerde afbeeldingen van kinderen ruim 11 dagen.

Terwijl sommige gebruikers afbeeldingen van zichzelf maakten, waren veel van de afbeeldingen van mensen die geen idee hadden dat ze zich digitaal uitkleedden op sociale media.

Tot nu toe zijn de drie rechtszaken de enige weg voorwaarts naar gerechtigheid voor de duizenden, zo niet miljoenen, mensen die op deze manier het slachtoffer zijn geworden van Grok. Federale aanklagers moeten nog een strafzaak vervolgen op grond van de Take It Down-actiedat de publicatie van niet-consensuele intieme beelden verbiedt. (In feite, zelfs toen de deepfakes van Grok internationale onderzoeken aanwakkerden, heeft het Pentagon kondigde aan dat het Grok zou integreren in januari, nadat hij het jaar daarvoor een contract van $ 200 miljoen had binnengehaald.) Alle drie de zaken zijn civiele rechtszaken waarbij schadevergoeding wordt geëist.

“We hebben geen mechanismen om verantwoording af te leggen, om transparantie te eisen, om informatie van deze bedrijven te eisen, en ze zijn ongelooflijk resistent tegen het nemen van verantwoordelijkheid wanneer hun platforms schade aanrichten”, zegt Imran Ahmed, de oprichter en CEO van het non-profit Center for Countering Digital Hate.

“Ervoor zorgen dat jouw platform geen machine op industriële schaal is voor seksueel misbruik van vrouwen en kinderen lijkt een no-brainer voor iemand die een consumentenplatform wil lanceren,” zei Ahmed.

xAI heeft niet gereageerd op een verzoek om commentaar.

In alle gevallen wordt sprake van nalatigheid van de kant van xAI bij het vrijlaten van Grok. In elk geval wordt beweerd dat xAI geen industriestandaard tests heeft uitgevoerd of gemeenschappelijke vangrails heeft geïmplementeerd om te voorkomen dat niet-consensuele expliciete beelden of materiaal met seksueel misbruik van kinderen worden gegenereerd.

xAI debuteerde in 2023 met de Grok-chatbot en Musk adverteerde ermee als tegengif voor andere chatbots, waarvan hij zei dat ze besmet met het ‘woke-mind-virus’. Vanaf het begin, ontwikkelaars zeiden dat Grok “pittige” vragen zou beantwoorden waarop andere apps zouden weigeren te antwoorden. Deze bewering is het bedrijf in deze rechtszaken blijven achtervolgen, omdat het wordt gebruikt om nalatigheid aan te tonen.

Grok bestaat als een zelfstandige app en is toegankelijk via het sociale mediaplatform X, voorheen bekend als Twitter. Op 20 december 2025 kondigde Musk aan dat Grok zou kunnen worden gevraagd om afbeeldingen op X te bewerken en te genereren. Deepfake-misbruik explodeerde op het platform, waarbij veel politici en waakhonden van het maatschappelijk middenveld alarm sloegen. Na weken van weinig actie zei de socialemediagigant dat het genereren van afbeeldingen beperkt zou blijven tot betaalde X-accounts – waarbij in wezen inkomsten zouden worden gegenereerd uit niet-consensuele deepfakes, betoogden critici. (Ook het stopte niet helemaal gratis X-accounts voor het maken van afbeeldingen met Grok.)

Op 14 januari, Musk heeft een bericht geplaatst op X dat hij “niet op de hoogte was van naakte beelden van minderjarigen gegenereerd door Grok”, maar zei dat “vijandige hacking” tot onverwachte resultaten zou kunnen leiden die onmiddellijk zouden worden verholpen. In twee van de drie rechtszaken wordt beweerd dat Grok vóór deze datum seksueel expliciete, zo niet volledig naakte, afbeeldingen van kinderen heeft gemaakt.

Twee van de huidige zaken komen voort uit de uitrol van Grok’s beeldgenerator op X. Ashley St. Clair, een politieke beïnvloeder en moeder van een van Musk’s 14 publiekelijk erkende kinderen, heeft xAI op 15 januari aangeklaagd nadat gebruikers Grok hadden gevraagd seksueel expliciete afbeeldingen van haar te maken. St. Clair zegt dat sommige afbeeldingen een foto van haar op 14-jarige leeftijd wijzigen, waardoor door AI gegenereerd materiaal over seksueel misbruik van kinderen ontstaat.

Jane Doe, de eiser in de class action-rechtszaak ingediend op 23 januariis een vrouw uit South Carolina die zegt dat het Grok-account zonder haar toestemming een door AI gegenereerde afbeelding van haar in een onthullende bikini heeft geplaatst. Ze zei dat X weigerde de afbeelding te verwijderen nadat ze deze oorspronkelijk had gerapporteerd, en dat ze de afbeelding pas kon laten verwijderen nadat ze de afbeelding in drie dagen tijd vele malen had gerapporteerd. Ze zei dat ze onbetaald verlof moest nemen en leeft in angst dat het imago weer de kop op zal steken en haar professionele kansen zal kosten.

In tegenstelling tot de voorgaande twee zaken richt de class action-rechtszaak die maandag is ingediend zich op materiaal over seksueel misbruik van kinderen dat naar verluidt is gemaakt op een app die een licentie heeft verleend voor de Grok Imagine-API. Drie studenten in Tennessee, twee minderjarigen en één wiens deepfakes afkomstig waren van afbeeldingen van haar toen ze nog geen 18 was, ontdekten dat iemand door AI gegenereerd materiaal over seksueel kindermisbruik had gemaakt van afbeeldingen die ze op sociale media hadden geplaatst. De verdachte zou deze afbeeldingen hebben verspreid naast de voornamen van de slachtoffers en de naam van hun school, waardoor het risico op lichamelijk letsel groter werd. De verdachte werd in december gearresteerd en volgens de klacht hebben de aanklagers, bekend als Jane Does 1, 2 en 3, last gehad van ernstige angstgevoelens, vooral op school.

Maar Riana Pfefferkorn, beleidsmedewerker bij het Stanford Institute for Human-Centered AI en expert op het gebied van wetten met betrekking tot door AI gegenereerd materiaal over seksueel misbruik van kinderen, zei dat deze rechtszaak lijkt op een “aanklacht tegen xAI in de harde modus”, omdat de klacht de deepfakes van twee van de eisers niet rechtstreeks aan Grok koppelt.

Er zijn nog een paar andere uitdagingen waarmee deze zaken tegen xAI worden geconfronteerd. Juridisch gezien zei Pfefferkorn dat xAI heeft aangegeven dat het zal proberen de zaken geseponeerd te krijgen op grond van Sectie 230 van de Communications Decency Act, die zegt dat platforms niet aansprakelijk zijn voor wat hun gebruikers posten, tenzij het verband houdt met sekshandel. (De maandag ingediende zaak beweert dat xAI de Trafficking Victims Protection Act heeft geschonden.) Dit is een gebied van open juridisch debat, want terwijl mensen Grok vermoedelijk hebben aangezet om afbeeldingen te genereren, plaatste het @grok-account de deepfakes.

Deze gevallen zouden een kans kunnen zijn om duidelijk te maken dat AI-platforms aansprakelijk moeten worden gehouden voor de spraak die ze genereren, zei Ahmed. “Ons juridisch kader moet veranderen om met de nieuwe realiteit om te kunnen gaan”, zei hij, terwijl hij pleitte voor hervorming van Sectie 230.

Als de federale DEFIANCE Act wordt aangenomen, zou dit een andere mogelijkheid kunnen bieden voor financiële compensatie voor slachtoffers van deepfakes. De rekening heeft de Senaat ontruimden pleitbezorgers verzamelen zich voor een stemming in het Huis van Afgevaardigden.

De class action-rechtszaak van maandag werd ingediend in het noordelijke district van Californië, net als de andere class action. St. Clair heeft haar zaak ingediend in het zuidelijke district van New York, waar ze woont. De twee eerdere zaken hangen samen met verzoeken om in Texas te procederen. xAI beweert dat gebruikers van Grok akkoord gingen met servicevoorwaarden die vereisten dat alle zaken moesten worden ingediend in het noordelijke district van Texas, de thuisbasis van een conservatieve rechterlijke macht die op minstens één gelegenheid heeft in het voordeel van Musk beslist.