Indonesië, de thuisbasis van de vierde grootste bevolking ter wereld, heeft dat wel gedaan toegang tot Grok geblokkeerd nadat de AI-chatbot geseksualiseerde beelden van echte vrouwen en kinderen genereerde.
Het Indonesische ministerie van Communicatie zei dat het tijdelijk de toegang tot Grok opschort om “vrouwen, kinderen en de hele gemeenschap te beschermen tegen het risico van neppornografische inhoud die wordt gegenereerd met behulp van kunstmatige intelligentietechnologie.”
“De regering beschouwt de praktijk van seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, zei minister van communicatie Meutya Hafid in een verklaring.
Elon Musk’s xAI maakt Grok en is ook eigenaar van X, dat de bot in zijn platform integreert. Indonesië is de thuisbasis van het op twee na grootste aantal X-gebruikers ter wereld.
Wereldregeringen hebben zich op Grok gericht, nadat sommigen dat gewend waren echte mensen digitaal uitkleden in foto’s en plaats deze vervolgens op X.
De Franse autoriteiten vertelden Politico deze maand dat ze seksueel expliciete deepfakes die door Grok zijn gegenereerd, zullen onderzoeken. En de Indiase regering zei in een brief aan de belangrijkste nalevingsvertegenwoordiger van X in het land dat Grok ‘misbruikt wordt door gebruikers’ om ‘afbeeldingen of video’s van vrouwen op een denigrerende of vulgaire manier te genereren om hen op onfatsoenlijke wijze te kleineren’.
Het ministerie vroeg X om een “uitgebreid technisch, procedureel en bestuurlijk onderzoek” uit te voeren en inhoud te verwijderen die de wetten van het land schendt.
Ofcom, de Britse communicatieregulator, vertelde maandag aan Business Insider dat het “dringend contact heeft opgenomen met X en xAI om te begrijpen welke stappen zij hebben genomen om te voldoen aan hun wettelijke verplichtingen om gebruikers in het VK te beschermen.”
Verschillende Amerikaanse senatoren hebben Apple en Google intussen gevraagd om X en Grok uit hun appstores te verwijderen vanwege de afbeeldingen.
“Als je de ogen sluit voor het flagrante gedrag van X, zou dat een aanfluiting zijn van je moderatiepraktijken”, schrijven de senatoren in een persbericht. “Als u geen actie onderneemt, zou dit uw beweringen in het openbaar en in de rechtszaal ondermijnen dat uw app-winkels een veiligere gebruikerservaring bieden dan gebruikers apps rechtstreeks naar hun telefoons te laten downloaden.”
Musk reageerde deze maand op de kritiek op X en zei tegen een gebruiker: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
In een aparte post schreef het veiligheidsaccount van X dat het bedrijf actie onderneemt “tegen illegale inhoud op X, inclusief materiaal over seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent op te schorten en, indien nodig, samen te werken met lokale overheden en wetshandhavers.”
Na de tegenreactie is de AI-beeldgenerator van Grok nu beperkt tot betalende abonnees.
