Drie tieners in Tennessee hebben een rechtszaak aangespannen XAI van Elon Musk deze week beweerde hij dat de beeldgeneratietools van het bedrijf eraan gewend waren morph echte foto’s van hen in expliciet seksuele beelden.
De middelbare scholieren, die onder pseudoniemen proberen verder te gaan, hebben de rechtszaak aangespannen in Californië, waar xAI – Musk’s kunstmatige intelligentie bedrijf – heeft zijn hoofdkantoor. Ze streven naar een class action-status om te vertegenwoordigen wat volgens de rechtszaak duizenden slachtoffers zijn, zoals zijzelf, die minderjarig zijn of minderjarig waren toen er seksueel expliciete beelden van hen werden gemaakt.
Volgens de rechtszaak werd Jane Doe 1 in december anoniem gewaarschuwd dat iemand seksueel expliciete afbeeldingen van haar verspreidde op een socialemediawebsite.
“Tenminste vijf van deze bestanden, één video en vier afbeeldingen, beeldden haar werkelijke gezicht en lichaam af in omgevingen waarmee ze vertrouwd was, maar veranderden in seksueel expliciete poses”, aldus de rechtszaak. Er wordt beweerd dat de persoon die de afbeeldingen verspreidde Doe kende en de tools voor het genereren van afbeeldingen van xAI gebruikte om echte foto’s van haar om te zetten in seksueel misbruik. Eén van de afbeeldingen is afkomstig van een thuiskomstfoto. Een ander kwam uit een jaarboek van de middelbare school.
De persoon die de afbeeldingen verspreidde, maakte ook expliciete afbeeldingen van minstens achttien andere meisjes, van wie er twee mede-eisers zijn in de rechtszaak. Eind december arresteerde de lokale politie de dader en nam zijn telefoon in beslag. Ze ontdekten dat hij de afbeeldingen naar verschillende platforms had geüpload, waar hij ze ruilde voor seksueel expliciete afbeeldingen van andere minderjarigen.
Andere AI-bedrijven hebben hun beeldgeneratoren verboden seksueel expliciete inhoud te produceren, zelfs van volwassenen. Musk zag dit als een zakelijke kans en promootte het vermogen van xAI’s Grok-chatbot om ‘pikante’ inhoud te creëren, beweert de rechtszaak. Er is momenteel echter geen manier om het genereren van expliciete afbeeldingen van volwassenen te voorkomen en tegelijkertijd het genereren van afbeeldingen van kinderen volledig te blokkeren, beweert de rechtszaak. Het beweert ook dat xAI wist dat Grok seksueel expliciete afbeeldingen van kinderen zou kunnen maken, maar deze toch heeft vrijgegeven.
In de rechtszaak wordt beweerd dat de persoon die afbeeldingen van de eisers verspreidde, een applicatie gebruikte die een licentie voor de xAI-technologie had verkregen of “op een andere manier toegang tot Grok had gekocht en als tussenpersoon of tussenpersoon werd gebruikt.”
XAI reageerde niet op een e-mail van The Associated Press waarin om commentaar werd gevraagd. Maar in een bericht van 14 januari over de controverse op het sociale mediaplatform X stond: “We blijven ons inzetten om van X een veilig platform voor iedereen te maken en blijven een nultolerantie hanteren voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
“We ondernemen actie om inbreukmakende inhoud met hoge prioriteit te verwijderen, waaronder materiaal over seksueel misbruik van kinderen (CSAM) en naaktheid zonder wederzijds goedvinden, en nemen passende maatregelen tegen accounts die onze X-regels schenden. We rapporteren ook accounts die materiaal zoeken over seksuele uitbuiting van kinderen aan wetshandhavingsautoriteiten, indien nodig.”
Ondertussen zeiden de studenten in de rechtszaak dat ze zich zorgen maken dat de afbeeldingen die van hen zijn gemaakt voor altijd op internet zullen blijven staan. Ze zijn bang voor stalking omdat hun echte voornaam en de naam van hun school aan de dossiers zijn toegevoegd. Ze maken zich zorgen dat hun vrienden en klasgenoten de foto’s en video’s hebben gezien, die echt lijken, en ze maken zich zorgen over wie ze in de toekomst zal zien.
Jane Doe 1 zei dat ze last heeft van angst, depressie en stress. “Ze heeft moeite met eten en slapen en heeft last van terugkerende nachtmerries”, staat in de rechtszaak. Jane Doe 2 “is begonnen zichzelf te isoleren en te vermijden om op haar schoolcampus te zijn, en is zelfs bang om haar eigen diploma-uitreiking bij te wonen.” Volgens de rechtszaak lijdt Jane Doe 3 aan constante angst dat iemand de door AI gegenereerde beelden zal zien en haar gezicht zal herkennen.
—Travis Loller, Associated Press
