Elon Musk’s AI-model Grok zal niet langer in staat zijn om foto’s van echte mensen te bewerken om ze in onthullende kleding te laten zien in rechtsgebieden waar dit illegaal is, na wijdverbreide bezorgdheid over geseksualiseerde AI-deepfakes.
“We hebben technologische maatregelen geïmplementeerd om te voorkomen dat het Grok-account het bewerken van afbeeldingen van echte mensen in onthullende kleding mogelijk maakt”, luidt een aankondiging op X.
In reactie op het verbod eiste de Britse regering ‘rechtvaardiging’ nadat premier Sir Keir Starmer X had opgeroepen zijn AI-tool onder controle te houden.
De wijziging werd aangekondigd uren nadat de hoogste aanklager van Californië had gezegd dat de staat onderzoek deed naar de verspreiding van geseksualiseerde AI-deepfakes, inclusief die van kinderen, gegenereerd door het AI-model.
“We geoblokkeren nu de mogelijkheid van alle gebruikers om afbeeldingen te genereren van echte mensen in bikini’s, ondergoed en soortgelijke kleding via het Grok-account en in Grok in X in die rechtsgebieden waar het illegaal is,” X zei woensdag in een verklaring.
Het herhaalde ook dat alleen betaalde gebruikers afbeeldingen kunnen bewerken met Grok op zijn platform.
Dit zal een extra beschermingslaag toevoegen door ervoor te zorgen dat degenen die Grok proberen te misbruiken om de wet of het beleid van X te overtreden, ter verantwoording worden geroepen, aldus de verklaring.
Als de NSFW-instellingen (not safe for work) zijn ingeschakeld, wordt van Grok verwacht dat hij ‘naaktheid van het bovenlichaam van denkbeeldige volwassen mensen (niet echte)’ toestaat, in overeenstemming met wat te zien is in films met een R-rating, schreef Musk woensdag online.
“Dat is de de facto standaard in Amerika. Dit zal in andere regio’s afhankelijk van de wetten van land tot land variëren”, aldus de tech-multimiljardair.
Musk had eerder X verdedigd en gepost dat critici “gewoon de vrijheid van meningsuiting willen onderdrukken”, samen met twee door AI gegenereerde afbeeldingen van de Britse premier Sir Keir Starmer in bikini.
De afgelopen dagen hebben leiders over de hele wereld kritiek geuit op de beeldbewerkingsfunctie van Grok.
Dit weekend werden Maleisië en Indonesië de eerste landen die de Grok AI-tool verbieden nadat gebruikers zeiden dat foto’s zonder toestemming waren gewijzigd om expliciete afbeeldingen te maken.
De Britse mediaregulator Ofcom zei maandag dat het zou onderzoeken of X zich niet aan de regels had gehouden Britse wet over seksuele afbeeldingen.
Als wordt vastgesteld dat Ofcom de wet heeft overtreden, kan Ofcom X een boete opleggen van maximaal 10% van zijn wereldwijde omzet of £ 18 miljoen, afhankelijk van wat het hoogste is.
En als X hieraan niet voldoet, kan Ofcom een gerechtelijk bevel vragen om internetproviders te dwingen de toegang tot de site in Groot-Brittannië volledig te blokkeren.
Sir Keir waarschuwde dat X het ‘recht op zelfregulering’ zou kunnen verliezen te midden van een reactie op de AI-beelden, maar later in de week zei hij dat hij berichten verwelkomde dat X actie ondernam om het probleem aan te pakken.
De premier zei dat hij “de nodige maatregelen zou nemen” en de wetgeving zou versterken als X niet zou handelen.
Hij had de door de tool gemaakte afbeeldingen eerder veroordeeld als “walgelijk en beschamend”, en zei dat de beslissing om “er een premiumdienst van te maken gruwelijk is”.
X zei later dat de wijzigingen in Grok van toepassing zouden zijn op “alle gebruikers, inclusief betaalde abonnees”.
De procureur-generaal van Californië, Rob Bonta, zei woensdag: “Dit materiaal, dat vrouwen en kinderen in naakte en seksueel expliciete situaties afbeeldt, is gebruikt om mensen op internet lastig te vallen.”
Beleidsonderzoeker Riana Pfefferkorn zei dat ze verrast was dat het zo lang duurde voordat X de nieuwe Grok-beveiligingen implementeerde en dat de bewerkingsfuncties hadden moeten worden verwijderd zodra het misbruik begon.
Er blijven vragen over hoe X zijn nieuwe beleid zal afdwingen, zoals hoe het AI-model zal weten of een afbeelding van een echte persoon is en welke acties het zal ondernemen als gebruikers de regels overtreden, zei Pfefferkorn.
Musk heeft het bedrijf ook niet in een serieus daglicht gesteld, zei ze, en voegde eraan toe dat het zou helpen als hij zou stoppen met ‘dingen te doen zoals het opnieuw plaatsen van een AI-afbeelding van Keir Starmer in bikini’.
