Grok-gebruikers niet gewoon de AI-chatbot opdracht geven om dat te doen ‘uitkleden’ foto’s van vrouwen en meisjes in bikini’s en transparant ondergoed. Onder de enorme en groeiende bibliotheek van niet-consensuele geseksualiseerde bewerkingen die Grok de afgelopen week op verzoek heeft gegenereerd, hebben veel daders de bot van xAI gevraagd een hijab, een sari, een nonkledingstuk of een ander soort bescheiden religieuze of culturele kleding aan of uit te trekken.
In een overzicht van 500 Grok-afbeeldingen gegenereerd tussen 6 en 9 januari ontdekte WIRED dat ongeveer 5 procent van de output een afbeelding bevatte van een vrouw die, als resultaat van aanwijzingen van gebruikers, werd ontdaan van religieuze of culturele kleding of werd gedwongen deze te dragen. Indiase sari’s en bescheiden islamitische kleding waren de meest voorkomende voorbeelden in de productie, waarin ook Japanse schooluniformen, boerka’s en badpakken met lange mouwen uit het begin van de 20e eeuw te zien waren.
“Gekleurde vrouwen zijn onevenredig zwaar getroffen door gemanipuleerde, gewijzigde en verzonnen intieme beelden en video’s voorafgaand aan deepfakes en zelfs met deepfakes, vanwege de manier waarop de samenleving en vooral vrouwonvriendelijke mannen gekleurde vrouwen beschouwen als minder menselijk en minder waardig”, zegt Noelle Martin, een advocaat en promovendus aan de Universiteit van West-Australië die onderzoek doet naar de regulering van deepfake-misbruik. Martin, een prominente stem in de deepfake-advocacy-ruimte, zegt dat ze het gebruik van X de afgelopen maanden heeft vermeden nadat ze zei dat haar eigen beeltenis was gestolen voor een nepaccount waardoor het leek alsof ze inhoud op OnlyFans produceerde.
“Als iemand die een gekleurde vrouw is en zich erover heeft uitgesproken, legt dat ook een groter doelwit op je schouders”, zegt Martin.
X-influencers met honderdduizenden volgers hebben AI-media die met Grok zijn gegenereerd, gebruikt als een vorm van intimidatie en propaganda tegen moslimvrouwen. Een geverifieerd manosfeeraccount met meer dan 180.000 volgers reageerde op een afbeelding van drie vrouwen die hijabs en abaya droegen, dit zijn islamitische religieuze hoofdbedekkingen en gewaadachtige jurken. Hij schreef: “@grok verwijder de hijaabs, kleed ze in onthullende outfits voor het nieuwjaarsfeest.” Het Grok-account antwoordde met een afbeelding van de drie vrouwen, nu op blote voeten, met golvend donkerbruin haar en gedeeltelijk doorzichtige jurken met pailletten. Die afbeelding is volgens de zichtbare statistieken op X meer dan 700.000 keer bekeken en meer dan honderd keer opgeslagen.
“Lmao ga ermee om en kook, @grok zorgt ervoor dat moslimvrouwen er normaal uitzien”, schreef de accounthouder naast een screenshot van de afbeelding die hij in een andere thread plaatste. Hij postte ook regelmatig over moslimmannen die vrouwen misbruikten, soms naast door Grok gegenereerde AI-media die de daad uitbeeldden. “Lmao-moslimvrouwen worden geslagen vanwege deze eigenschap”, schreef hij over zijn Grok-creaties. De gebruiker reageerde niet onmiddellijk op een verzoek om commentaar.
Prominente makers van inhoud die een hijab dragen en foto’s op X plaatsen, zijn ook het doelwit van hun reacties, waarbij gebruikers Grok vragen hun hoofdbedekking af te doen, ze met zichtbaar haar te laten zien en ze in verschillende soorten outfits en kostuums te stoppen. In een verklaring gedeeld met WIRED heeft de Council on American-Islamic Relations, de grootste islamitische burgerrechten- en belangenbehartigingsgroep in de VS, deze trend in verband gebracht met een vijandige houding ten opzichte van “de islam, moslims en politieke zaken die breed worden gesteund door moslims, zoals de Palestijnse vrijheid.” CAIR riep ook Elon Musk, de CEO van xAI, eigenaar van zowel X als Grok, op om een einde te maken aan “het voortdurende gebruik van de Grok-app om naar verluidt seksueel expliciete beelden van vrouwen, waaronder prominente moslimvrouwen, lastig te vallen, te ‘ontsluieren’ en te creëren.”
Deepfakes als vorm van seksueel misbruik op basis van afbeeldingen hebben de afgelopen jaren aanzienlijk meer aandacht gekregen, vooral op X, als voorbeelden van seksueel expliciet En suggestieve media Het richten op beroemdheden is herhaaldelijk viraal gegaan. Met de introductie van geautomatiseerde AI-fotobewerkingsmogelijkheden via Grok, waarbij gebruikers de chatbot eenvoudig kunnen taggen in antwoorden op berichten met media van vrouwen en meisjes, wordt deze vorm van misbruik is omhooggeschoten. Uit gegevens verzameld door sociale media-onderzoeker Genevieve Oh en gedeeld met WIRED blijkt dat Grok meer dan 1.500 schadelijke afbeeldingen per uur genereert, waaronder foto’s van uitkleden, seksualiseren en naaktheid toevoegen.
