Na het creëren van duizenden van ‘uitkleden’ foto’s van vrouwen en geseksualiseerde beelden van schijnbare minderjarigen, heeft Elon Musk’s X blijkbaar beperkt wie beelden kan genereren met Grok. Ondanks de veranderingen wordt de chatbot echter nog steeds gebruikt om ‘uitkledende’ geseksualiseerde afbeeldingen op het platform te creëren.
Vrijdagochtend begon het Grok-account op X te reageren op de verzoeken van sommige gebruikers met de boodschap dat het maken en bewerken van afbeeldingen “momenteel beperkt is tot betalende abonnees.” Het bericht bevat ook een link die mensen naar het jaarlijkse abonnementsniveau van $ 395 van het sociale-mediaplatform duwt. In één test waarbij het systeem Grok verzocht een afbeelding van een boom te maken, retourneerde het systeem hetzelfde bericht.
De schijnbare verandering komt na dagen van groeiende verontwaardiging tegen en streng toezicht van Musk’s X en xAI, het bedrijf achter de Grok-chatbot. De bedrijven worden geconfronteerd met een toenemend aantal onderzoeken door toezichthouders over de hele wereld naar het creëren van niet-consensuele expliciete beelden en vermeende seksuele beelden van kinderen. De Britse premier Keir Starmer is niet uitgesloten X verbood X in het land en zei dat de acties ‘onwettig’ waren.
Noch X, noch xAI, het bedrijf dat eigendom is van Musk achter Grok, heeft bevestigd dat het het genereren en bewerken van afbeeldingen een betaalde functie heeft gemaakt. Een woordvoerder van X erkende het onderzoek van WIRED, maar gaf voorafgaand aan de publicatie geen commentaar. X heeft dit eerder gedaan gezegd er is “actie nodig tegen illegale inhoud op X”, inclusief gevallen van materiaal met seksueel misbruik van kinderen. Hoewel Apple en Google eerder apps met vergelijkbare ‘nudify’-functies hebben verboden, X en Grok blijven beschikbaar in hun respectievelijke appstores. xAI reageerde niet onmiddellijk op het verzoek van WIRED om commentaar.
Al meer dan een week vragen gebruikers op X de chatbot om afbeeldingen van vrouwen te bewerken om hun kleding uit te trekken, vaak met de vraag of de afbeelding een ‘string’ of ‘transparante’ bikini bevat. Hoewel een openbare feed met afbeeldingen gemaakt door Grok vrijdag veel minder resultaten bevatte van deze ‘uitkleed’-afbeeldingen, creëerde deze nog steeds geseksualiseerde afbeeldingen wanneer daarom werd gevraagd door X-gebruikers met betaalde ‘geverifieerde’ accounts.
“We observeren dezelfde soort prompt, we observeren dezelfde soort uitkomst, alleen minder dan voorheen”, vertelt Paul Bouchaud, hoofdonderzoeker bij de in Parijs gevestigde non-profitorganisatie AI Forensics, aan WIRED. “Het model kan doorgaan met het genereren van bikini(afbeeldingen)”, zeggen ze.
Uit een WIRED-recensie van enkele Grok-posts op vrijdagochtend bleek dat Grok afbeeldingen genereerde als reactie op gebruikersverzoeken voor afbeeldingen die “haar in latex lingerie stopten” en “haar in een plastic bikini stopten en haar bedekten met een wit donutglazuur.” De afbeeldingen verschijnen achter een vak met een ‘inhoudswaarschuwing’ waarin staat dat er materiaal voor volwassenen wordt weergegeven.
Woensdag onthulde WIRED dat de stand-alone website en app van Grok, die los staat van de versie op X, de afgelopen maanden ook is gebruikt om zeer expliciete en soms gewelddadige seksuele video’sinclusief beroemdheden en andere echte mensen. Bouchaud zegt dat het nog steeds mogelijk is om Grok te gebruiken om deze video’s te maken. “Ik kon zonder enige beperking een video met seksueel expliciete inhoud genereren vanuit een niet-geverifieerd account”, zeggen ze.
Terwijl WIRED’s test van het genereren van afbeeldingen met Grok op X met behulp van een gratis account het maken van afbeeldingen niet toestond, genereerde het gebruik van een gratis account op de app en website van Grok nog steeds afbeeldingen.
De verandering op X zou de hoeveelheid seksueel expliciet en schadelijk materiaal dat het platform creëert onmiddellijk kunnen beperken, zeggen experts. Maar het is ook bekritiseerd als een minimale stap die als pleister werkt voor de echte schade veroorzaakt door niet-consensuele intieme beelden.
“Het recente besluit om de toegang te beperken tot betalende abonnees is niet alleen ontoereikend – het vertegenwoordigt het genereren van inkomsten uit misbruik”, zegt Emma Pickering, hoofd technologiegefaciliteerd misbruik bij de Britse liefdadigheidsinstelling Refuge voor huiselijk geweld, in een verklaring. “Hoewel het beperken van het genereren van AI-beelden tot betalende gebruikers het volume marginaal kan verminderen en de traceerbaarheid kan verbeteren, is het misbruik niet gestopt. Het is eenvoudigweg achter een betaalmuur geplaatst, waardoor X kan profiteren van de schade.”
