Terwijl de zorgen over Groks vermogen om te genereren toenemen seksueel expliciete inhoud zonder toestemming van de betrokkene blokkeert een aantal landen de toegang tot die van Elon Musk kunstmatige intelligentie chatbot. Centraal in de controverse staat een functie genaamd Grok Imagine, waarmee gebruikers door AI gegenereerde afbeeldingen en video’s kunnen maken. Die tool beschikt ook over een ‘pittige modus’, waarmee gebruikers inhoud voor volwassenen kunnen genereren.
Zowel Indonesië als Maleisië hebben bevolen dat er dit weekend beperkingen worden ingevoerd. Maleisische functionarissen blokkeerden zondag de toegang tot Grok, onder verwijzing naar “herhaaldelijk misbruik … om obscene, seksueel expliciete, onfatsoenlijke, grof beledigende en niet-consensueel gemanipuleerde beelden te genereren.” Ambtenaren noemden ook “herhaalde mislukkingen van X Corp.” om dergelijke inhoud te voorkomen.
Indonesië had de chatbot de dag ervoor om soortgelijke redenen geblokkeerd. In een verklaring bij de schorsing van Grok zegt Meutya Hafid, de Indonesische minister van Communicatie en Digitaal. “De regering beschouwt de praktijk van seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte.”
De reacties zouden echter nog maar het begin kunnen zijn van de problemen van Grok. Verschillende andere landen, waaronder Groot-Brittannië, India en Frankrijk, overwegen dit voorbeeld te volgen.
Groot-Brittannië is een onderzoek gestart naar de expliciete inhoud van de chatbot, wat ertoe zou kunnen leiden dat deze ook in dat land wordt geblokkeerd. “Berichten dat Grok wordt gebruikt voor het maken en delen van illegale, intieme beelden en materiaal over seksueel misbruik van kinderen op X zijn zeer zorgwekkend”, zegt Ofcom, de toezichthouder van het land voor de communicatiediensten. in een verklaring.
Muskusin een bericht op sociale media naar aanleiding van het Ofcom-onderzoek: schreef dat de Britse regering ‘gewoon de vrijheid van meningsuiting wil onderdrukken’.
Snel bedrijf geprobeerd contact op te nemen met xAI voor commentaar over de acties in Indonesië en Maleisië, evenals soortgelijke mogelijke blokkades in andere landen. Een automatisch antwoord van het bedrijf luidde: ‘Legacy Media Lies’.
Buiten Groot-Brittannië hebben functionarissen in de Europese Unie, Brazilië en India opgeroepen tot onderzoek naar de deepfakes van Grok, wat uiteindelijk ook tot verboden zou kunnen leiden. (De Amerikaanse regering, die contracten heeft met xAI, is dat ook geweest tamelijk stil over de kwestie tot nu toe.)
Op een persconferentie vorige weekWoordvoerder van de Europese Commissie, Thomas Regnier, zei dat de commissie “deze zaak zeer serieus onderzoekt”, en voegde eraan toe: “Dit is niet ‘pittig’. Dit is illegaal. Dit is verschrikkelijk. Dit is walgelijk. Dit is hoe wij het zien, en dit hoort niet thuis in Europa.”
Musk en X voelen nog steeds de gevolgen van een Een boete van 130 miljoen dollar De EU heeft het bedrijf vorige maand een klap gegeven wegens het overtreden van de Digital Services Act, met name vanwege misleidende betaalde verificatie en een gebrek aan transparantie in de advertentieopslag van het bedrijf.
Beyond geseksualiseerde beelden van volwassenen, een rapport van de non-profitorganisatie AI Forensics die 20.000 door Grok gegenereerde afbeeldingen analyseerde die tussen 25 december en 1 januari waren gemaakt, ontdekte dat 2% een persoon afbeeldde die 18 jaar of jonger leek. Het ging om dertig afbeeldingen van jonge of zeer jonge vrouwen of meisjes in bikini’s of transparante kleding.
Bij de analyse werd ook nazi- en ISIS-propagandamateriaal aangetroffen dat door Grok was gegenereerd.
Hoewel het bedrijf de landen die de toegang tot zijn diensten blokkeren niet heeft aangesproken, heeft het wel commentaar gegeven op het gebruik van zijn tool om seksuele inhoud met minderjarigen te creëren.
“We ondernemen actie tegen illegale inhoud op X, inclusief materiaal over seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale overheden en wetshandhavers”, aldus X. schreef in een bericht. “Iedereen die Grok gebruikt of aanzet tot het maken van illegale inhoud zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
Het bedrijf heeft dit ook aangekondigd beperk het genereren van afbeeldingen en bewerkingsfuncties voor betalende abonnees. Dat zal echter waarschijnlijk niet genoeg zijn om overheidsfunctionarissen tevreden te stellen die de toegang tot Grok willen blokkeren terwijl deze beelden nog kunnen worden gegenereerd.
