Elon Musk kijkt toe terwijl president Donald Trump spreekt op het US-Saudi Investment Forum in het John F. Kennedy Center for the Performing Arts in Washington, 19 november 2025.
Brendan Smialowski | AFP | Getty-afbeeldingen
Elon Musk’s xAI zag reacties van gebruikers na zijn kunstmatige intelligentie chatbot Grok genereerde geseksualiseerde foto’s van kinderen als reactie op gebruikersvragen.
Een Grok-antwoord op één gebruiker X verklaarde vrijdag dat het de kwestie “dringend aan het oplossen was” en noemde materiaal over seksueel misbruik van kinderen “illegaal en verboden”.
In antwoorden aan gebruikers zegt de bot ook gepost dat een bedrijf kan worden geconfronteerd met strafrechtelijke of civielrechtelijke sancties als het willens en wetens dit soort inhoud faciliteert of er niet in slaagt dit soort inhoud te voorkomen nadat het is gewaarschuwd.
Grok-berichten zijn door AI gegenereerde berichten en vervangen geen officiële bedrijfsverklaringen.
Musk’s xAI, die Grok creëerde en vorig jaar fuseerde met X, stuurde een automatisch antwoord op een verzoek om commentaar: “Legacy Media Lies.”
Gebruikers op X hebben de afgelopen dagen hun zorgen geuit expliciete inhoud van minderjarigen, inclusief kinderen die minimale kleding dragen, gegenereerd met behulp van de Grok-tool.
De sociale-mediasite heeft een knop ‘Afbeelding bewerken’ toegevoegd aan foto’s waarmee elke gebruiker deze kan wijzigen met behulp van tekstprompts en zonder toestemming van de originele poster.
Een bericht van een technisch medewerker van xAI Parsa Tadzjiekse erkende het probleem ook.
“Hé! Bedankt voor het markeren. Het team onderzoekt of we onze gaurrails verder kunnen aanscherpen”, schreef Tajik in een bericht.
De proliferatie van AI-beeldgenererende platforms sinds de lancering van ChatGPT in 2022 heeft over de hele linie zorgen doen rijzen over inhoudsmanipulatie en online veiligheid. Het heeft ook bijgedragen aan een toenemend aantal platforms dat heeft geproduceerd deepfake naakten van echte mensen.
David Thiel, een vertrouwens- en veiligheidsonderzoeker die deel uitmaakte van het inmiddels opgeheven Stanford Internet Observatory, vertelde CNBC dat verschillende Amerikaanse wetten over het algemeen de creatie en distributie van bepaalde expliciete afbeeldingen verbieden, waaronder afbeeldingen van seksueel misbruik van kinderen, of intieme afbeeldingen zonder wederzijdse toestemming.
Juridische beslissingen over door AI gegenereerde afbeeldingen, zoals die geproduceerd door Grok, kunnen afhangen van specifieke details van de gecreëerde en gedeelde inhoud, zei hij.
In een artikel dat hij co-auteur was genaamd “Generative ML and CSAM: Implicaties en verzachtende omstandigheden,” merkten Stanford-onderzoekers op dat “de schijn van een kind dat wordt misbruikt voldoende is geweest voor vervolging” in precedent scheppende zaken in de VS.
Terwijl andere chatbots met soortgelijke problemen te maken kregen, is xAI herhaaldelijk in de problemen beland vanwege misbruik of duidelijke gebreken in het ontwerp van Grok of de onderliggende technologie.
“Er zijn een aantal dingen die bedrijven kunnen doen om te voorkomen dat hun AI-tools op deze manier worden gebruikt,” zei Thiel. “Het belangrijkste in dit geval zou zijn om de mogelijkheid te verwijderen om door gebruikers geüploade afbeeldingen te wijzigen. Gebruikers toestaan om geüploade afbeeldingen te wijzigen is een recept voor NCII. Nudificatie is historisch gezien het belangrijkste gebruiksscenario van dergelijke mechanismen.”
NCII verwijst naar intieme beelden zonder wederzijdse toestemming.
In mei kreeg X te maken met een terugslag nadat Grok ongevraagde opmerkingen had gemaakt over “blanke genocide” in Zuid-Afrika. Twee maanden later plaatste Grok een bericht antisemitische opmerkingen En prees Adolf Hitler.
Ondanks de struikelblokken is xAI partnerschappen en deals blijven sluiten.
De Ministerie van Defensie heeft Grok vorige maand toegevoegd aan zijn AI-agentenplatform, en de tool is de belangrijkste chatbot voor voorspellingswedplatforms Polymarket en Kalshi.
