Anadolu/Anadolu Agentschap via Getty Images
2026-01-16T21:51:30.765Z
- Californië stuurde xAI een last onder dwangsom, waarin hij eiste dat het de toelating van deepfake-afbeeldingen van minderjarigen verhinderde.
- De xAI van Elon Musk krijgt te maken met aanhoudende kritiek vanwege de beschuldigingen die Grok aan het creëren is niet-consensuele geseksualiseerde beelden.
- De brief, verzonden door AG Rob Bonta, dreigt met juridische stappen als de deepfakes niet worden gestopt.
De procureur-generaal van Californië, Rob Bonta, heeft geëist dat xAI voorkomt dat zijn chatbot, Grok, geseksualiseerd wordt deepfake-afbeeldingen van kinderen.
Bonta’s kantoor stuurde een stopzettingsbrief tegen de AI-startup van Elon Musk op vrijdag na aanhoudende kritiek op het vermogen van de bot om te creëren niet-consensuele geseksualiseerde beeldenook die van minderjarigen.
In de brief werd geëist dat xAI zou voorkomen dat Grok geseksualiseerde afbeeldingen zou maken van mensen die niet om het maken van de afbeelding hadden gevraagd, of die minderjarig waren toen de afbeelding werd gemaakt. Het nalaten om te voorkomen dat dergelijke beelden worden gemaakt of verspreid, zou worden beschouwd als een schending van de wetten op het gebied van wraakporno, kinderpornografie, onrechtmatige opnames en oneerlijke handelspraktijken van de staat, aldus de brief.
xAI kreeg tot 20 januari 17.00 uur de tijd om aan het bevel te voldoen.
Eerder deze week zei socialemediaplatform X, eigendom van xAI, dat het beperkingen op Grok heeft ingevoerd.
“We hebben technologische maatregelen geïmplementeerd om te voorkomen dat het Grok-account het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toestaat”, zei het veiligheidsaccount van X woensdag in een blogpost op het platform. “Deze beperking geldt voor alle gebruikers, inclusief betalende abonnees.”
Dat weerhield de X- of Grok-app er echter niet van om geseksualiseerde afbeeldingen te maken, Henry Chandonnet van Business Insider Donderdag gevonden.
Vertegenwoordigers van het kantoor van de procureur-generaal van de CA reageerden niet onmiddellijk op verzoeken om commentaar van Business Insider.
In een geautomatiseerd antwoord aan Business Insider zei xAI: “Legacy Media Lies.”
Dit is een ontwikkelingsverhaal. Kom later terug voor updates.
