Maleisië en Indonesië worden de eersten die Musk’s Grok blokkeren vanwege AI-deepfakes: NPR

KUALA LUMPUR, Maleisië – Maleisië en Indonesië zijn de eerste landen geworden die Grok, de kunstmatige intelligentie-chatbot ontwikkeld door xAI van Elon Musk, blokkeren nadat de autoriteiten zeiden dat deze werd misbruikt om seksueel expliciete en niet-consensuele beelden te genereren.

Deze maatregelen weerspiegelen de groeiende mondiale bezorgdheid over generatieve AI-tools die realistische beelden, geluid en tekst kunnen produceren, terwijl de bestaande waarborgen er niet in slagen misbruik ervan te voorkomen. De Grok-chatbot, die toegankelijk is via Musk’s sociale mediaplatform X, is bekritiseerd vanwege het genereren van gemanipuleerde beelden, waaronder afbeeldingen van vrouwen in bikini’s of seksueel expliciete poses, evenals afbeeldingen waarbij kinderen betrokken zijn.

Regelgevers in de twee Zuidoost-Aziatische landen zeiden dat de bestaande controles de creatie en verspreiding van nep-pornografische inhoud, met name waarbij vrouwen en minderjarigen betrokken zijn, niet verhinderden. De Indonesische regering blokkeerde zaterdag tijdelijk de toegang tot Grok, zondag gevolgd door Maleisië.

“De regering beschouwt seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte”, zei de Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid, zaterdag in een verklaring.

Het ministerie zei dat de maatregel bedoeld was om vrouwen, kinderen en de bredere gemeenschap te beschermen tegen neppornografische inhoud die met behulp van AI is gegenereerd.

Uit de eerste bevindingen bleek dat Grok geen effectieve waarborgen heeft om te voorkomen dat gebruikers pornografische inhoud creëren en distribueren op basis van echte foto’s van Indonesische inwoners, zei Alexander Sabar, directeur-generaal van het toezicht op de digitale ruimte, in een aparte verklaring. Hij zei dat dergelijke praktijken het risico inhouden dat de privacy en het beeldrecht worden geschonden wanneer foto’s zonder toestemming worden gemanipuleerd of gedeeld, wat psychologische, sociale en reputatieschade kan veroorzaken.

In Kuala Lumpur heeft de Maleisische Communicatie- en Multimediacommissie zondag een tijdelijke beperking op Grok bevolen na wat volgens haar ‘herhaaldelijk misbruik’ was van de tool om obscene, seksueel expliciete en niet-consensueel gemanipuleerde beelden te genereren, waaronder inhoud waarbij vrouwen en minderjarigen betrokken zijn.

De toezichthouder zei dat de mededelingen die deze maand aan X Corp. en xAI werden uitgegeven en waarin sterkere waarborgen werden geëist, tot reacties leidden die voornamelijk afhankelijk waren van mechanismen voor gebruikersrapportage.

“De beperking wordt opgelegd als een preventieve en evenredige maatregel terwijl de wettelijke en regelgevende processen aan de gang zijn”, aldus het rapport, eraan toevoegend dat de toegang geblokkeerd zal blijven totdat er effectieve waarborgen zijn ingevoerd.

Grok werd gelanceerd in 2023 en is gratis te gebruiken op X. Gebruikers kunnen het vragen stellen op het sociale-mediaplatform en berichten taggen die ze rechtstreeks hebben gemaakt of reageren op berichten van andere gebruikers. Afgelopen zomer heeft het bedrijf een beeldgeneratorfunctie toegevoegd, Grok Imagine, die een zogenaamde “pittige modus” omvatte die inhoud voor volwassenen kan genereren.

De beperkingen in Zuidoost-Azië komen te midden van toenemende aandacht voor Grok elders, waaronder in de Europese Unie, Groot-Brittannië, India en Frankrijk. Grok beperkte vorige week het genereren en bewerken van afbeeldingen tot betalende gebruikers na een wereldwijde reactie op geseksualiseerde deepfakes van mensen, maar critici zeggen dat hiermee het probleem niet volledig werd aangepakt.