De AI van Elon Musk chatbot Grok is wordt gebruikt om X mee te overspoelen duizenden van geseksualiseerde beelden van volwassenen en schijnbare minderjarigen die minimale kleding dragen. Een deel van deze inhoud lijkt niet alleen de eigen inhoud van X te schenden beleiddie het delen van illegale inhoud zoals materiaal met seksueel misbruik van kinderen (CSAM) verbieden, maar mogelijk ook in strijd zijn met de richtlijnen van de App Store van Apple en de Google Play Store.
Apple en Google verbieden beide expliciet apps die CSAM bevatten, wat in veel landen illegaal is om te hosten en te distribueren. De techgiganten verbieden ook apps die pornografisch materiaal bevatten of intimidatie faciliteren. De Apple App Store zegt het staat geen ‘openlijk seksueel of pornografisch materiaal’ toe, evenals ‘lasterlijke, discriminerende of kleingeestige inhoud’, vooral als de app ‘een beoogde persoon of groep waarschijnlijk zal vernederen, intimideren of schaden’. De Google Play-winkel verbiedt apps die ‘inhoud bevatten of promoten die verband houdt met seksueel roofzuchtig gedrag, of seksuele inhoud zonder wederzijds goedvinden verspreiden’, en programma’s die ‘bedreigingen, intimidatie of pesten bevatten of faciliteren’.
De afgelopen twee jaar hebben Apple en Google daarna een aantal ‘nudify’- en AI-beeldgeneratie-apps verwijderd onderzoeken door de BBC en 404 Media gevonden er werd reclame voor gemaakt of gebruikt om gewone foto’s zonder hun toestemming effectief om te zetten in expliciete afbeeldingen van vrouwen.
Maar op het moment van publicatie waren zowel de X-app als de zelfstandige Grok-app blijven beschikbaar in beide appstores. Apple, Google en X hebben niet gereageerd op verzoeken om commentaar. Grok wordt beheerd door Musk’s miljarden-dollar kunstmatige intelligentie-startup xAI, die ook niet reageerde op vragen van WIRED. In een publieke verklaring gepubliceerd op 3 januari zei X dat het actie onderneemt tegen illegale inhoud op zijn platform, inclusief CSAM. “Iedereen die Grok gebruikt of aanzet tot het maken van illegale inhoud zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, waarschuwde het bedrijf.
Sloan Thompson, directeur training en onderwijs bij EndTAB, een groep die organisaties leert hoe ze de verspreiding van niet-consensuele seksuele inhoud kunnen voorkomen, zegt dat het “absoluut gepast” is als bedrijven als Apple en Google actie ondernemen tegen X en Grok.
Het aantal niet-consensuele expliciete afbeeldingen op X gegenereerd door Grok is de afgelopen twee weken geëxplodeerd. Een onderzoeker vertelde Bloomberg dat Grok gedurende een periode van 24 uur tussen 5 en 6 januari ongeveer 6.700 afbeeldingen per uur produceerde die zij identificeerden als ‘seksueel suggestief of nudificerend’. Een andere analist verzamelde meer dan 15.000 URL’s met afbeeldingen die Grok op X had gemaakt gedurende een periode van twee uur op 31 december. beoordeeld ongeveer een derde van de afbeeldingen, en ontdekte dat op veel daarvan vrouwen te zien waren gekleed in onthullende kleding. Meer dan 2.500 werden gemarkeerd als niet langer beschikbaar binnen een week, terwijl bijna 500 werden bestempeld als ‘inhoud voor volwassenen met een leeftijdsbeperking’.
Eerder deze week zei een woordvoerder van de Europese Commissie, het bestuursorgaan van de Europese Unie, publiekelijk veroordeeld de seksueel expliciete en niet-consensuele beelden die door Grok op X worden gegenereerd als ‘illegaal’ en ‘afschuwelijk’, vertellen Reuters dat dergelijke inhoud ‘geen plaats heeft in Europa’.
Donderdag de EU X besteld om alle interne documenten en gegevens met betrekking tot Grok tot eind 2026 te bewaren, waarbij een eerdere bewaarrichtlijn wordt verlengd, om ervoor te zorgen dat autoriteiten toegang hebben tot materiaal dat relevant is voor de naleving van de EU-wet op digitale diensten, hoewel een nieuw formeel onderzoek nog moet worden aangekondigd. Regelaars binnen andere landenwaaronder Groot-Brittannië, India en Maleisië hebben dit ook gezegd zij zijn onderzoek doen naar het sociale mediaplatform.
