Regeringen verbieden de Grok-chatbot vanwege niet-consensuele bikinifoto’s: NPR

Indonesië en Maleisië tijdelijk geblokkeerd De chatbot van X, Grok, heeft dit weekend tientallen nepbeelden gemaakt waarin voornamelijk vrouwen en in sommige gevallen kinderen publiekelijk werden geseksualiseerd.

Regeringen over de hele wereld starten ook onderzoeken. Het laatste kwam maandag toen de Britse mediaregulator Ofcom, een sonde gelanceerd op het sociale-mediaplatform terechtkomen, wat tot een verbod kan leiden.

Grok maakte al een tijdje seksueel expliciete beelden van mensen. Maar de kwestie kreeg eind december brede aandacht toen mensen de chatbot gebruikten om een ​​groot aantal bestaande afbeeldingen te bewerken door de bot in reacties te taggen en hem aanwijzingen te geven zoals ‘stop haar in een bikini’. Hoewel Grok niet op alle verzoeken heeft gereageerd, heeft zij in veel gevallen hieraan gehoor gegeven. In sommige gevallen, zo merkte senior onderzoeker en onderzoeker Kolina Koltai van Bellingcat op, kunnen gebruikers Grok zover krijgen dat hij frontale naakten genereert.

Onnoemelijke aantallen vrouwen en in sommige gevallen kinderen Reuters voor het eerst gemeld, hun gelijkenissen zijn online door Grok geseksualiseerd zonder hun toestemming, inbegrepen een van de moeders van de kinderen van X-eigenaar Elon Musk.

Het is ongebruikelijk dat zoveel regeringen actie ondernemen tegen een socialemediabedrijf, maar deze zaak is anders, zegt Riana Pfefferkorn, beleidsmedewerker aan de Stanford University. “Het maken van seksueel kindermisbruik (materiaal) is flagrant illegaal, vrijwel overal op aarde.”

Afgelopen vrijdag had X de functie voor het genereren van AI-afbeeldingen van Grok beperkt om deze alleen beschikbaar te maken voor betalende abonnees. Niet-betalende gebruikers kunnen mensen nog steeds met slechts een paar klikken publiekelijk in bikini’s plaatsen, maar ze kunnen slechts een paar van dergelijke verzoeken indienen voordat ze worden gevraagd zich aan te melden voor een premium lidmaatschap, dat $ 8 per maand kost.

NPR beoordeelde de openbaar beschikbare afbeeldingen van Grok die eerder deze maand waren gegenereerd en ontdekte dat het bedrijf enkele dagen in 2026 was gestopt met het maken van afbeeldingen van schaars geklede vrouwen. Soms biedt het echter nog steeds in bikini geklede mannen aan.

xAI, het moederbedrijf van X, promoot sinds vorig jaar inhoud voor volwassenen met Grok. In mei, Koltai merkte het eerst op dat de chatbot seksueel expliciete afbeeldingen zou genereren als reactie op verzoeken op X zoals ’trek haar kleren uit’. Afgelopen zomer introduceerde Grok de ‘spicy mode’ in zijn zelfstandige app, waarmee gebruikers bikini’s op door AI gegenereerde karakters konden plaatsen.

Ben Winters, directeur AI en privacy bij de belangenorganisatie Consumer Federation of America, zei dat Grok nu niet alleen het bewerken van afbeeldingen van echte mensen toestaat, maar ook een eenvoudig distributieplatform via X biedt. “Het is een verdere en aanzienlijke escalatie”, zei hij.

Regeringen zijn verontwaardigd over de stap van X om de toegang tot de functie voor het genereren van afbeeldingen te beperken tot abonnees. Dat zei de Britse minister van Technologie Liz Kendall Sky-nieuws “Het is beledigend om te zeggen dat je nog steeds toegang hebt tot deze dienst als je ervoor betaalt.”

De Indonesische regering ontdekte dat Grok geen effectieve vangrails had om te voorkomen dat gebruikers pornografische inhoud zonder wederzijds goedvinden maken op basis van echte Indonesische inwoners, eerst de Associated Press gemeld.

“De regering beschouwt seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, zei de Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid, in een verklaring.

De AP meldde ook dat Grok in Maleisië geblokkeerd zal blijven totdat er effectieve vangrails tegen misbruik zijn geplaatst.

In antwoord op de vragen van NPR wees X-woordvoerder Victoria Gillespie op een stelling gepost op 3 januari waarin stond dat “iedereen die Grok gebruikt of aanzet tot het maken van illegale inhoud, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt.” De verklaring was een weerspiegeling van die van Musk na eerder die dag.

Een dergelijke aanpak is een ‘poging om afstand te doen van verantwoordelijkheid’, zei Winters.

“Het is zeker niet alleen de gebruiker die hierom vraagt”, zei hij. “Het is het feit dat het beeld niet zou zijn gemaakt zonder de tool die ze hebben gemaakt.”

Voordat de golf van door Grok gegenereerde, niet-consensuele expliciete deepfakes X trof, hadden andere AI-makers soortgelijke mogelijkheden aan hun chatbots toegevoegd. In november bracht Google een nieuw model voor het genereren van afbeeldingen uit, Nano Banana Pro. In december heeft OpenAI zijn model ChatGPT Images bijgewerkt. Beide kunnen ook afbeeldingen bewerken om mensen in bikini’s te plaatsen, Wired gemeld vorige maand. Een draad op Reddit waarin dergelijke afbeeldingen worden verspreid, is verwijderd.

In een andere X-berichtMusk suggereerde dat, aangezien tools van andere AI-bedrijven ook deze uitkleedfunctie hebben, de druk van overheden een vorm van censuur is die op zijn platform is gericht.

Koltai merkte op dat de trend om door AI gegenereerde, niet-consensuele intieme media te maken de afgelopen twee jaar in de maak is. “Je ziet deze advertenties zelfs op Instagram. Het is zoiets als: upload een foto van jou en je crush en jullie kunnen zoenen”, zei ze. “Dus dat is kussen en knuffelen, en dan zie je dat er een extremer spectrum is.”

“Er is duidelijk een groot probleem binnen de technologie-industrie, omdat we dit op meerdere platforms hebben gezien, en (er zijn) niet altijd goede richtlijnen, grenzen of regelgeving”, aldus Koltai.

De kritiek in de VS is veel gematigder dan in andere landen. Senator Ted Cruz, R-Tex., geplaatst op X Woensdag werd gezegd dat de beelden “moeten worden verwijderd en dat er vangrails moeten worden geplaatst.” Hij zei ook dat hij “bemoedigd is dat X heeft aangekondigd dat ze deze schendingen serieus nemen en eraan werken om onwettige afbeeldingen en beledigende gebruikers van hun platform te verwijderen.”

Grok heeft het afgelopen jaar regelmatig voor controverse gezorgd. Afgelopen zomer, de chatbot noemde zichzelf “MechaHitler” en spuwde antisemitische complottheorieën uit.

Apps met zogenaamde nudificatiemogelijkheden bestaan ​​al jaren, meestal in de schaduw van het internet. Winters zei dat ambtenaren meer moeten doen om enkele kenmerken van X te controleren. “Er bestaan ​​verkeerde voorstellingen over de veiligheid van hun producten. Er zijn schendingen van hun servicevoorwaarden”, zei hij.

“We hebben niet echt enige significante actie gezien van Amerikaanse instanties, of het nu staats- of federaal is, die de bevoegdheid hebben om de wet te handhaven”, zei Winters.