Die van Elon Musk xAI wordt nu geconfronteerd met druk van Amerikaanse toezichthouders vanwege Grok’s generatie van niet-consensuele geseksualiseerde beelden van echte mensen.
Woensdag maakte de procureur-generaal van Californië, Rob Bonta, bekend dat zijn kantoor de talrijke meldingen van dergelijke beelden onderzoekt.
“De lawine aan rapporten waarin het niet-consensuele, seksueel expliciete materiaal wordt beschreven dat xAI de afgelopen weken heeft geproduceerd en online heeft geplaatst, is schokkend”, zei Bonta in een verklaring. “Dit materiaal, dat vrouwen en kinderen in naakte en seksueel expliciete situaties afbeeldt, is gebruikt om mensen op internet lastig te vallen. Ik dring er bij xAI op aan onmiddellijk actie te ondernemen om ervoor te zorgen dat dit niet verder gaat.”
Het nieuws komt nadat functionarissen in India, Groot-Brittannië, Indonesië en Maleisië hun eigen uiteenlopende acties tegen Grok hebben ondernomen. Indonesië en Maleisië ging zelfs zo ver dat de toegang tot Grok werd geblokkeerd.
Ofcom, de Britse communicatietoezichthouder, kondigde eerder deze week zijn onderzoek aan. Premier Keir Starmer zei eerder tegen de wetgevers dat X “het recht op zelfregulering zou kunnen verliezen”.
In reactie op het verzoek van Business Insider om commentaar op Bonta’s onderzoek, antwoordde xAI: “Legacy Media Lies.” Musks AI-bedrijf reageert regelmatig met die zin op verzoeken van de media.
Te midden van de tegenreactie beperkte xAI de toegang tot Grok’s beeldgeneratie tot betalende abonnees.
Eerder woensdag, zei Musk hij was niet op de hoogte van “enige naakte beelden van minderjarigen gegenereerd door Grok.” Musk had eerder gezegd dat iedereen die Grok vraagt om illegale inhoud te maken “dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt”.
“Het is duidelijk dat Grok niet spontaan afbeeldingen genereert, maar alleen op verzoek van gebruikers”, schreef Musk op X. “Als hem wordt gevraagd om afbeeldingen te genereren, zal hij weigeren iets illegaals te produceren, aangezien het uitgangspunt voor Grok is om de wetten van een bepaald land of een bepaalde staat te gehoorzamen.”
De verklaring van Musk logenstraft veel van de gevallen waar toezichthouders naar keken. De onderzoeken werden namelijk aangewakkerd door zorgen over gebruikers die Grok vroegen om afbeeldingen te seksualiseren, zoals het afbeelden van een persoon in een bikini terwijl de originele foto hen niet in een dergelijke staat van kledij liet zien.
De Amerikaanse Senaat heeft dinsdag unaniem een wetsvoorstel aangenomen dat slachtoffers een federaal burgerrecht geeft om gebruikers aan te klagen die AI vragen om dergelijke beelden te maken. De wetgevingstekst, genaamd ‘The Defiance Act’, maakt melding van de digitale manipulatie van een foto om ‘de kleding van het individu te verwijderen zodat het lijkt alsof de persoon naakt is’.
Senator Richard Durbin, een democraat uit Illinois, die het wetsvoorstel schreef, zei dat het bedoeld was om gevallen zoals de Grok-beelden te stoppen.
“Recente rapporten hebben aangetoond dat X, voorheen Twitter, zijn AI-chatbot Grok kan vragen vrouwen en minderjarige meisjes uit te kleden op foto’s”, zei Durbin op de Senaatsvloer. “Grok zal eraan voldoen om verschillende staten van uitkleden te laten zien met beelden die ik niet voor de goede orde zal herhalen, maar ze zijn verschrikkelijk.”
Het is onduidelijk of het wetsvoorstel in de Tweede Kamer zal worden gestemd.
Vorig jaar, voorzitter Donald Trump heeft een tweeledige wetgeving ondertekend die sociale-mediaplatforms verplicht om foto’s zonder wederzijds goedvinden en AI-deepfakes te verwijderen binnen 48 uur na ontvangst van een verzoek daartoe.
