Dit verhaal bevat beschrijvingen van expliciete seksuele inhoud en seksueel geweld.
Die van Elon Musk Grok chatbot heeft, nadat hij eraan gewend was, verontwaardiging gewekt en opgeroepen tot onderzoek overspoel X met “uitgeklede” afbeeldingen van vrouwen en geseksualiseerde beelden van ogenschijnlijk minderjarigen. Dat is echter niet de enige manier waarop mensen de AI gebruiken om geseksualiseerde beelden te genereren. De website en app van Grok, die los staan van X, bevatten geavanceerde videogeneratie die niet beschikbaar is op X en die wordt gebruikt om extreem expliciete, soms gewelddadige, seksuele beelden van volwassenen te produceren die veel explicieter zijn dan beelden gemaakt door Grok op X. Het kan ook zijn gebruikt om geseksualiseerde video’s van schijnbare minderjarigen te maken.
In tegenstelling tot X, waar de output van Grok standaard openbaar is, worden afbeeldingen en video’s die in de Grok-app of -website zijn gemaakt met behulp van het Imagine-model niet openlijk gedeeld. Als een gebruiker echter een Imagine-URL heeft gedeeld, kan deze voor iedereen zichtbaar zijn. Een cache van ongeveer 1.200 Imagine-links, plus een WIRED-recensie daarvan geïndexeerd door Google of gedeeld op een deepfake-pornoforum, toont verontrustende seksuele video’s die veel explicieter zijn dan afbeeldingen gemaakt door Grok op X.
Een fotorealistische Grok-video, gehost op Grok.com, toont een volledig naakte, door AI gegenereerde man en vrouw, bedekt met bloed over het lichaam en gezicht, die seks hebben, terwijl twee andere naakte vrouwen op de achtergrond dansen. De video wordt omlijst door een reeks afbeeldingen van personages in anime-stijl. Een andere fotorealistische video toont een door AI gegenereerde naakte vrouw met een mes in haar geslachtsdelen, terwijl er bloed op haar benen en op het bed verschijnt.
Andere korte video’s bevatten beelden van echte vrouwelijke beroemdheden die zich bezighouden met seksuele activiteiten, en een reeks video’s lijkt ook te laten zien dat tv-nieuwspresentatoren hun topjes optillen om hun borsten bloot te leggen. Eén door Grok geproduceerde video toont een opname van camerabeelden die op tv worden afgespeeld, waarin een bewaker een topless vrouw streelt midden in een winkelcentrum.
Meerdere video’s – waarschijnlijk gemaakt om de inhoudveiligheidssystemen van Grok te omzeilen, die grafische inhoud kunnen beperken – imiteren Netflix-filmposters: twee video’s tonen een naakte AI-afbeelding van Diana, prinses van Wales, die seks heeft met twee mannen op een bed met een overlay met de logo’s van Netflix en zijn series De Kroon.
Ongeveer 800 van de gearchiveerde Imagine-URL’s bevatten video’s of afbeeldingen die door Grok zijn gemaakt, zegt Paul Bouchaud, hoofdonderzoeker bij de in Parijs gevestigde non-profitorganisatie AI Forensics, die de inhoud heeft beoordeeld. De URL’s zijn allemaal sinds augustus vorig jaar gearchiveerd en vertegenwoordigen slechts een kleine momentopname van hoe mensen Grok hebben gebruikt, wat in totaal waarschijnlijk miljoenen afbeeldingen heeft opgeleverd.
“Het zijn overwegend seksuele inhoud”, zegt Bouchaud over de cache van 800 gearchiveerde Grok-video’s en afbeeldingen. “Meestal gaat het om expliciete manga- en hentai-inhoud en (andere) fotorealistische inhoud. We hebben volledige naaktheid, volledige pornografische video’s met audio, wat vrij nieuw is.”
Bouchaud schat dat van de 800 berichten iets minder dan 10 procent van de inhoud verband lijkt te houden met materiaal over seksueel misbruik van kinderen (CSAM). “Meestal is het hentai, maar er zijn ook voorbeelden van fotorealistische mensen, heel jong, die seksuele activiteiten ondernemen”, zegt Bouchaud. “We zien nog steeds enkele video’s van zeer jong ogende vrouwen die zich uitkleden en activiteiten ondernemen met mannen”, zeggen ze. “Het is verontrustend op een ander niveau.”
De onderzoeker zegt dat ze ongeveer zeventig Grok-URL’s, die mogelijk geseksualiseerde inhoud van minderjarigen bevatten, hebben gerapporteerd aan toezichthouders in Europa. In veel landen wordt door AI gegenereerde CSAM, inbegrepen tekeningen of animatieskan als illegaal worden beschouwd. Franse functionarissen reageerden niet onmiddellijk op het verzoek van WIRED om commentaar; echter onlangs het parket van Parijs gezegd twee wetgevers hadden klachten ingediend bij het bureau, dat onderzoek doet naar het socialemediabedrijf, over de ‘gestripte’ beelden.
