Ashley St. Clairdie in 2024 het leven schonk aan een van de zoons van Elon Musk, klaagde Musk’s xAI donderdag aan voor een rechtbank in New York, omdat zijn chatbot Grok op verzoek van gebruikers seksueel expliciete deepfake-beelden van haar genereerde.
In de klacht beweert St. Clair, een schrijver, influencer en politiek strateeg, dat X-gebruikers Grok ertoe hebben aangezet afbeeldingen van haar, inclusief foto’s van toen ze 14 was, te manipuleren tot expliciete seksuele inhoud. Ze beweert dat sommige afbeeldingen langer dan een week online bleven staan en dat haar premium X-account later werd beëindigd nadat ze had geklaagd.
xAI reageerde niet onmiddellijk op een verzoek om commentaar.
“Grok beloofde mevrouw St. Clair eerst dat het zou afzien van het vervaardigen van nog meer afbeeldingen waarin zij haar kleding zou uitkleden”, aldus de klacht. “In plaats daarvan nam beklaagde wraak op haar, door haar X-account te demonetiseren en nog veel meer afbeeldingen van haar te genereren”, zo beweerde de aanklacht.
St. Clair is ook betrokken bij een afzonderlijke rechtszaak met Musk over de voogdij over hun zoon, waarin zij de exclusieve voogdij eiste.
xAI reageerde dezelfde dag met een afzonderlijke rechtszaak, met het argument dat St. Clair daarmee instemde de servicevoorwaarden, die vereist dat eventuele rechtszaken in Texas worden behandeld. St. Clair wordt vertegenwoordigd door advocaat Carrie Goldberg, die gespecialiseerd is in mishandelingszaken en cliënten heeft bijgestaan Harvey Weinstein.
“xAI is geen redelijk veilig product”, zegt Goldberg in een verklaring aan Business Insider. “Deze schade vloeide rechtstreeks voort uit doelbewuste ontwerpkeuzes die het mogelijk maakten dat Grok werd gebruikt als instrument voor intimidatie en vernedering. Bedrijven zouden niet in staat moeten zijn hun verantwoordelijkheid te ontlopen als de producten die ze bouwen voorspelbaar dit soort schade veroorzaken.”
De rechtszaak volgde op internationaal verzet tegen de Grok-chatbot vanwege zijn vermogen om afbeeldingen van echte mensen uit te kleden en geseksualiseerde afbeeldingen te maken zonder hun toestemming op verzoek van gebruikers.
Indonesië en Maleisië geblokkeerde toegang tot Grokterwijl de Britse premier Keir Starmer tijdens een ontmoeting met het Lagerhuis de expliciete beelden gegenereerd door Grok “walgelijk” en “beschamend” noemde.
Op woensdag, Procureur-generaal van Californië Rob Bonta kondigde ook aan dat zijn kantoor onderzoek doet naar het ‘niet-consensuele, seksueel expliciete materiaal dat xAI heeft geproduceerd en online heeft geplaatst’ van ‘vrouwen en kinderen in naakte en seksueel expliciete situaties’.
X zei op dezelfde dag in een blogpost dat gebruikers niet langer AI-foto’s van echte mensen in geseksualiseerde of onthullende kleding op het platform zouden mogen maken, eraan toevoegend dat de beperking “van toepassing is op alle gebruikers, inclusief betaalde abonnees.”
Vanaf donderdagochtend Business Insider-verslaggever Henry Chandonnet ontdekte dat het nog steeds “verrassend eenvoudig” is om Grok te vragen naaktfoto’s van hem te maken door naar de app zelf te gaan in plaats van de Grok-chatbot op X te gebruiken.
