De Grok-chatbot van Elon Musk is donderdag begonnen met het beperken van de mogelijkheid voor niet-betalende gebruikers om deepfake, geseksualiseerde afbeeldingen te maken, na wereldwijde druk van gebruikers en overheden.
Eind vorige maand begonnen sommige gebruikers Grok te taggen op Musk’s sociale mediaplatform X met aanwijzingen als “stop haar in een bikini” om niet-consensuele beelden van echte mensen op X te genereren.
De vervormde afbeeldingen, waaronder die van beroemdheden, politici en enkele minderjarigen, zijn gemaakt door Grok en openbaar op X geplaatst.
Voordat de huidige beperkingen van kracht werden, nam Musk deel aan de AI-uitkleedtrend door Grok de opdracht te geven afbeeldingen van zichzelf in bikini te maken.
Gebruikers en autoriteiten klaagden en dreigden X aan te klagen of te straffen. Grok verontschuldigde zich aanvankelijk voor de ongepaste foto’s van wat leek op kinderen.
Nu heeft X de controversiële morphing-mogelijkheden van Grok achter een betaalmuur geplaatst.
Regeringen, waaronder het Verenigd Koninkrijk en de Europese Commissie, zeiden dat ze niet tevreden zijn met de waarborgen van X, omdat de mogelijkheid om afbeeldingen te maken en te bewerken nog steeds beperkt is. beschikbaar aan betalende gebruikers.
“Hoewel het beperken van het genereren van AI-beelden tot betaalde gebruikers het volume marginaal kan verminderen en de traceerbaarheid kan verbeteren, is het misbruik niet gestopt. Het is eenvoudigweg achter een betaalmuur geplaatst, waardoor X kan profiteren van de schade”, zegt Emma Pickering, hoofd van technologiegefaciliteerd misbruik en economische empowerment bij Refuge, in een verklaring.
Nu de publieke woede over wat velen ‘AI-ondersteunde intimidatie’ noemen groeit, hebben toezichthouders dit opgemerkt, met enkele voorstellen om X in hun land te verbieden.
De Britse premier Keir Starmer zei dat X “greep moet krijgen” op deze “walgelijke” trend. “We zullen hier actie op ondernemen, omdat het simpelweg niet te tolereren is”, zei Starmer.
In een verhulde pushback leek Musk de Britse toezichthouders te bekritiseren verontwaardiging door opnieuw een bewering te posten dat ChatGPT ook de creatie van een bikinibeeld van een niet-echt persoon toestond door middel van creatieve, niet-expliciete aansporingen.
Na Grok te hebben veroordeeld voor het produceren van geseksualiseerde afbeeldingen, beval de Europese Commissie X om alle documenten met betrekking tot Grok te bewaren om ervoor te zorgen dat de regels werden nageleefd.
“We moeten er toegang toe hebben als we er expliciet om vragen”, zei een woordvoerder van de Commissie in een persbericht persconferentie.
Frankrijk, India, Maleisië en Brazilië nemen het platform ook onder de loep.
Hoewel publieke figuren een van de eerste doelwitten waren voor het uitkleden van AI, kwam het al snel terecht bij particulieren. Op 3 januari vroeg een gebruiker Grok vijftig keer per dag om niet-consensuele, geseksualiseerde afbeeldingen van vrouwen op de werkplek te genereren, volgens een analyse van AI-detectiebedrijf Copyleaks.
Genderrechtvaardigheidsgroep Ultraviolet heeft dat gedaan een campagne opgezet om Apple en Google onder druk te zetten om X uit hun respectieve app-winkels te verwijderen op grond van het feit dat X hun richtlijnen voor seksueel misbruik van kinderen schendt.
Musk heeft zijn chatbot gepositioneerd als een scherper alternatief vergeleken met alternatieven zoals Gemini, ChatGPT en Claude, die meer beperkende richtlijnen rond expliciete inhoudsverzoeken.
