Elon MBIs AIS verhindert dat de meeste gebruikers afbeeldingen kunnen genereren of bewerken na een wereldwijde reactie die uitbrak nadat deze begon te spuwen geseksualiseerde deepfakes van mensen.
De chatbotdat toegankelijk is via het sociale mediaplatform X van Musk, heeft de afgelopen weken een golf ingewilligd van wat volgens onderzoekers kwaadwillige gebruikersverzoeken zijn om afbeeldingen te wijzigen, waaronder het plaatsen van vrouwen in bikini’s of in seksueel expliciete posities.
Onderzoekers hebben gewaarschuwd dat in enkele gevallen sommige afbeeldingen kinderen leken af te beelden. Regeringen over de hele wereld hebben het platform veroordeeld en onderzoeken naar het platform geopend.
Vrijdag reageerde Grok op verzoeken om afbeeldingen te wijzigen met de boodschap: “Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees. U kunt zich abonneren om deze functies te ontgrendelen.”
Hoewel de abonneenummers voor Grok niet publiekelijk beschikbaar zijn, was er een merkbare daling in het aantal expliciete deepfakes dat Grok nu genereert vergeleken met dagen eerder.
De Europese Unie heeft Grok veroordeeld wegens “illegaal” en “weerzinwekkend” gedrag, terwijl functionarissen in Frankrijk, India, Maleisië en een Braziliaanse wetgever hebben opgeroepen tot onderzoek.
Donderdag dreigde de Britse premier Keir Starmer met niet nader gespecificeerde actie tegen X.
“Dit is schandelijk. Het is walgelijk. En het mag niet worden getolereerd”, zei Starmer op de Greatest Hits-radio. “X moet hier grip op krijgen.”
Hij zei dat mediaregulator Ofcom “onze volledige steun heeft om actie te ondernemen” en dat “alle opties” op tafel liggen.
“Het is walgelijk. X moet de boel op orde krijgen en dit materiaal naar beneden halen. We zullen hier actie op ondernemen omdat het simpelweg niet te tolereren is.”
Ofcom en de Britse privacytoezichthouder zeiden deze week allebei dat ze contact hebben opgenomen met X en Musk kunstmatige intelligentie bedrijf xAI voor informatie over de maatregelen die zij hebben genomen om te voldoen aan de Britse regelgeving.
Grok is gratis te gebruiken voor X-gebruikers, die er vragen over kunnen stellen op het sociale mediaplatform. Ze kunnen het taggen in berichten die ze rechtstreeks hebben gemaakt of in reacties op berichten van andere gebruikers.
Grok werd gelanceerd in 2023. Afgelopen zomer voegde het bedrijf een functie voor het genereren van afbeeldingen toe, Grok Imagine, die een zogenaamde ‘pittige modus’ omvatte die inhoud voor volwassenen kan genereren.
Het probleem wordt versterkt omdat Musk zijn chatbot presenteert als een scherper alternatief voor rivalen met meer waarborgen, en omdat de afbeeldingen van Grok publiekelijk zichtbaar zijn en daarom gemakkelijk kunnen worden verspreid.
—Kelvin Chan, zakelijk schrijver van AP
