X van Elon Musk heeft nieuwe beperkingen geïntroduceerd die mensen ervan weerhouden afbeeldingen van echte mensen in bikini’s of andere ‘onthullende kleding’ te bewerken en te genereren. De verandering in beleid Woensdagavond volgt de mondiale verontwaardiging over Grok die gewend is duizenden schadelijke ‘uitkleed’-foto’s zonder wederzijds goedvinden genereren van vrouwen en geseksualiseerde afbeeldingen van schijnbare minderjarigen op X.
Hoewel het erop lijkt dat er eindelijk enkele veiligheidsmaatregelen zijn geïntroduceerd bij het genereren van afbeeldingen door Grok op X, lijken de zelfstandige Grok-app en -website nog steeds in staat te zijn om ‘uitkleed’-stijlafbeeldingen en pornografische inhoud te genereren, volgens meerdere tests door onderzoekers, WIRED en andere journalisten. Andere gebruikers zeggen ondertussen dat ze niet langer afbeeldingen en video’s mogen maken zoals ze ooit waren.
“We kunnen nog steeds fotorealistische naaktheid genereren op Grok.com”, zegt Paul Bouchaud, hoofdonderzoeker bij de in Parijs gevestigde non-profitorganisatie AI Forensics, die het gebruik van Grok om geseksualiseerde afbeeldingen te maken heeft gevolgd en meerdere tests op Grok buiten X heeft uitgevoerd. “We kunnen naaktheid genereren op manieren die Grok op X niet kan.”
“Ik zou een afbeelding op Grok Imagine kunnen uploaden en vragen om de persoon in een bikini te dragen en het werkt”, zegt de onderzoeker die het systeem testte op een persoon die er als vrouw uitziet. Tests van WIRED, waarbij gebruik werd gemaakt van gratis Grok-accounts op haar website in zowel het VK als de VS, hebben met succes kleding verwijderd van twee afbeeldingen van mannen zonder enige duidelijke beperkingen. Op de Grok-app in Groot-Brittannië vroeg de app, toen hem werd gevraagd een man uit te kleden, een WIRED-verslaggever om het geboortejaar van de gebruiker in te voeren voordat de afbeelding werd gegenereerd.
Ondertussen andere journalisten bij De rand en onderzoekskanaal Bellingcat ontdekte ook dat het mogelijk was om geseksualiseerde afbeeldingen te maken terwijl ze gevestigd waren in Groot-Brittannië, dat onderzoek doet naar Grok en X en de platforms krachtig heeft veroordeeld omdat ze gebruikers toestonden om ‘uitkleed’-afbeeldingen te maken.
Sinds het begin van het jaar zijn de bedrijven van Musk – waaronder kunstmatige-intelligentiefirma xAI, X en Grok – allemaal onder vuur komen te liggen vanwege het creëren van intieme beelden zonder wederzijds goedvinden, expliciete en expliciete seksuele video’s en geseksualiseerde beelden van schijnbare minderjarigen. Ambtenaren in de Verenigde Staten, Australië, Brazilië, Canada, de Europese Commissie, Frankrijk, India, Indonesië, Ierland, Maleisië en het Verenigd Koninkrijk, hebben ze allemaal veroordeeld of gelanceerd onderzoek naar X of Grok.
Woensdag a Veiligheidsaccount op X heeft updates geplaatst over hoe Grok kan worden gebruikt op de sociale mediawebsite. “We hebben technologische maatregelen geïmplementeerd om te voorkomen dat het Grok-account het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toestaat”, aldus het account, eraan toevoegend dat de regels van toepassing zijn op alle gebruikers, inclusief zowel gratis als betaalde abonnees.
In een sectie met de titel “Geoblock-update” beweerde het X-account ook: “We geoblokkeren nu de mogelijkheid van alle gebruikers om afbeeldingen te genereren van echte mensen in bikini’s, ondergoed en soortgelijke kleding via het Grok-account en in Grok in X in die rechtsgebieden waar het illegaal is.” In de update van het bedrijf werd ook toegevoegd dat het eraan werkt om extra waarborgen toe te voegen en dat het doorgaat met het verwijderen van “schendende inhoud met hoge prioriteit, waaronder materiaal over seksueel misbruik van kinderen (CSAM) en naaktheid zonder wederzijds goedvinden.”
Woordvoerders van xAI, de oprichter van Grok, reageerden niet onmiddellijk op het verzoek van WIRED om commentaar. Ondertussen zegt een woordvoerder van X dat ze begrijpen dat het geolocatieblok van toepassing is op zowel de app als de website.
De nieuwste zet volgt op een veel bekritiseerde verschuiving op 9 januari waarbij X beperkt werd het genereren van afbeeldingen met behulp van Grok voor betaalde “geverifieerde” abonnees. De daad die dat was beschreven als de “monetisering van misbruik” door een vooraanstaande vrouwengroep. Bouchaud, die zegt dat AI Forensics sinds de kerstvakantie in totaal ongeveer 90.000 Grok-afbeeldingen heeft verzameld, bevestigt dat alleen geverifieerde accounts sinds 9 januari afbeeldingen op X kunnen genereren – in tegenstelling tot de Grok-website of -app – en dat bikini-afbeeldingen van vrouwen nu zelden worden gegenereerd. “We zien wel dat het erop lijkt dat ze de stekker eruit hebben getrokken en de functionaliteit op X hebben uitgeschakeld”, zeggen ze.
