De Britse regering zegt dat Elon Musk’s platform X, dat Grok AI-beeldbewerkingen beperkt tot betalende gebruikers, “beledigend” is voor slachtoffers van vrouwenhaat en seksueel geweld.
Tijdens een toespraak op vrijdag zei Downing Street dat deze stap “eenvoudigweg een AI-functie die het maken van onwettige afbeeldingen mogelijk maakt, verandert in een premiumdienst”.
Het volgt op een aanzienlijke reactie nadat de chatbot verzoeken van gebruikers honoreerde om afbeeldingen van andere mensen digitaal te veranderen door ze uit te kleden zonder hun toestemming – iets wat Grok mensen nu vertelt dat ze alleen kunnen doen door een maandelijks bedrag te betalen.
Maar de officiële woordvoerder van de premier vertelde de verslaggevers vrijdag dat het liet zien dat X – die nog geen commentaar heeft gegeven – ‘snel kan handelen als het dat wil’.
De premier was “overduidelijk dat X moet handelen en nu moet handelen”, aldus zijn woordvoerder.
“Het is tijd dat X deze kwestie aanpakt. Als een ander mediabedrijf reclameborden in de stadscentra zou hebben waarop onwettige afbeeldingen te zien zijn, zou het onmiddellijk actie ondernemen om deze te verwijderen, anders zou het te maken krijgen met publieke reacties”, voegde ze eraan toe.
De BBC heeft X benaderd voor commentaar.
Degenen die geen abonnement hebben, kunnen Grok nog steeds gebruiken om afbeeldingen te bewerken op de aparte app en website.
Downing Street herhaalde ook de “volledige steun” van de regering toezichthouder Ofcom om al zijn bevoegdheden te gebruiken – tot en met een effectief verbod – tegen X vanwege zorgen over onwettige AI-afbeeldingen die op de site zijn gemaakt.
Premier Sir Keir Starmer reageerde op de bezorgdheid dat Grok geseksualiseerde beelden van volwassenen en kinderen had gegenereerd en zei dat dit “schandelijk” en “walgelijk” was.
“Het is onwettig. We gaan het niet tolereren. Ik heb gevraagd om alle opties op tafel te leggen”, zei hij donderdag in een interview met Greatest Hits Radio.
Ofcom’s bevoegdheden onder de Wet op onlineveiligheid onder meer de mogelijkheid om een gerechtelijk bevel te vragen om te voorkomen dat derden het platform van Elon Musk helpen geld in te zamelen of toegang te krijgen tot het Verenigd Koninkrijk.
De BBC heeft de toezichthouder benaderd voor commentaar.
“Musk heeft zijn speelgoed uit de kinderwagen gegooid uit protest tegen het feit dat hij ter verantwoording werd geroepen voor de tsunami van misbruik”, zegt professor Clare McGlynn, een expert op het gebied van de wettelijke regulering van pornografie, seksueel geweld en online misbruik.
“In plaats van de verantwoordelijke stappen te ondernemen om ervoor te zorgen dat Grok niet voor misbruikdoeleinden kan worden gebruikt, heeft het de toegang voor de overgrote meerderheid van de gebruikers ingetrokken.”
En Hannah Swirsky, hoofd beleid bij de Internet Watch Foundation, zei dat het “de schade die is aangericht niet ongedaan maakt”.
“Wij geloven niet dat het goed genoeg is om eenvoudigweg de toegang te beperken tot een tool die nooit de capaciteit had moeten hebben om het soort beelden te creëren dat we de afgelopen dagen hebben gezien”, zei ze.
De liefdadigheid eerder gezegd de analisten hadden “criminele beelden” ontdekt van meisjes tussen 11 en 13 jaar die “leken te zijn gemaakt” met behulp van Grok.
“Zitten en wachten tot onveilige producten worden misbruikt voordat er actie wordt ondernomen, is onaanvaardbaar”, aldus Swirsky.
Grok is een gratis tool waarmee gebruikers rechtstreeks in berichten of antwoorden onder de berichten van andere gebruikers kunnen taggen om een bepaald antwoord te vragen.
Maar de functie heeft het ook mogelijk gemaakt dat mensen het kunnen aanvragen om afbeeldingen te bewerken – en het kunnen vragen om mensen digitaal van het grootste deel van hun kleding te ontdoen.
Grok heeft aan veel gebruikersverzoeken voldaan met de vraag om afbeeldingen van vrouwen te bewerken om ze in bikini’s of kleine kleding te laten zien – iets wat degenen die aan dergelijke verzoeken onderworpen waren, tegen de BBC hebben gezegd dat ze dat gevoel hebben achtergelaten “vernederd” En “ontmenselijkt“.
Maar vanaf vrijdagochtend heeft Grok gebruikers die het vroegen om afbeeldingen die naar X zijn geüpload te wijzigen, verteld dat “het genereren en bewerken van afbeeldingen momenteel beperkt is tot betalende abonnees”.
Het voegt eraan toe dat gebruikers “zich kunnen abonneren om deze functies te ontgrendelen”.
Sommige berichten op het platform die BBC News heeft gezien, suggereren dat alleen degenen met een blauw vinkje “geverifieerd” – exclusief voor X’s betaalde abonneeniveau – met succes beeldbewerkingen bij Grok konden aanvragen.
Dr. Daisy Dixon, docent filosofie aan de Universiteit van Cardiff en vrouwelijke X-gebruiker, die zei dat ze een toename had gezien van mensen die Grok gebruikten om haar uit te kleden, verwelkomde de verandering, maar zei dat het voelde “als een pleister”.
“Grok moet volledig opnieuw worden ontworpen en ingebouwde ethische vangrails krijgen om te voorkomen dat dit ooit nog eens gebeurt”, zei ze tegen de BBC.
“Elon Musk moet dit ook erkennen voor wat het is: het zoveelste voorbeeld van gendergerelateerde schending.”
Professor McGlynn zei dat de zet van X een weerspiegeling was van zijn aanpak pornografische Taylor Swift-deepfakes op het platform vorig jaar – waar het zoekopdrachten blokkeerde naar geseksualiseerd materiaal gegenereerd door de popster met behulp van een Grok AI-videofunctie.
“Hij doet dit om argumenten voor de vrijheid van meningsuiting aan te wakkeren”, voegde ze eraan toe.
“Hij zal beweren dat de regelgeving het gebruik van deze technologie door mensen belemmert. Maar het enige dat de regelgeving vereist, is dat hij de nodige voorzorgsmaatregelen neemt om de schade te beperken.”
