Elon musk en het xAI-logo.
Vincent Feuray | Afp | Getty-afbeeldingen
Elon Musk’s X wordt onderzocht door autoriteiten in Europa, India en Maleisië nadat de Grok-chatbot gebruikers in staat heeft gesteld door AI gegenereerde geseksualiseerde afbeeldingen van kinderen en vrouwen te maken en te delen.
Ook de Britse mediawaakhond Ofcom gezegd Er is informatie opgevraagd bij X, dat eigendom is van xAI, over de Grok-kwesties. En zondag zei een lid van het Braziliaanse parlement op sociale media dat ze de federale openbare aanklager en de gegevensbeschermingsautoriteit van het land heeft gevraagd het gebruik van Grok op te schorten totdat een onderzoek is afgerond.
De onderzoeken volgen een wereldwijde stijging van de afgelopen weken in het gebruik van Grok voor het creëren en delen van niet-consensuele, intieme afbeeldingen, of NCII, afgeleid van foto’s of video’s van echte mensen, als reactie op aanwijzingen van gebruikers. De betreffende beelden zijn breed gedeeld op X.
Het bedrijf van Musk heeft onlangs de Grok Imagine-functies bijgewerkt, waardoor het gemakkelijker wordt om afbeeldingen te genereren via tekstgebaseerde aanwijzingen op het platform.
Terwijl veiligheidsexperts en technologiecritici de proliferatie van uitbuitende beelden en clips op X afkeurden, leek Musk de situatie te bespotten door een reeks door Grok gegenereerde beelden te delen, waaronder een waarop hij zichzelf in bikini afbeeldt, onderbroken door lachende en huilende emoji’s.
Bij een persconferentie Maandag zei woordvoerder van de Europese Commissie, Thomas Regnier, dat de autoriteit “deze zaak zeer serieus aan het onderzoeken was” en “zich er terdege van bewust was” dat X en Grok “nu een pittige modus aanbieden met expliciete seksuele inhoud, met enige output gegenereerd met kinderlijke afbeeldingen.”
“Dit is niet ‘pittig'”, zei Regnier. “Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk. Dit is hoe wij het zien, en dit hoort niet thuis in Europa.”
Eind vorige week gaf het Indiase ministerie van Elektronica en Informatietechnologie X opdracht om een “uitgebreide technische, procedurele en bestuurlijke beoordeling” van Grok uit te voeren. Het bedrijf kreeg tot 5 januari de tijd om hieraan te voldoen.
De Maleisische Communicatie- en Multimediacommissie gezegd in het weekend dat het X onderzoekt en vertegenwoordigers van het bedrijf zal inschakelen.
“MCMC dringt er bij alle platforms die toegankelijk zijn in Maleisië op aan om waarborgen te implementeren die in lijn zijn met de Maleisische wetten en online veiligheidsnormen, vooral met betrekking tot hun AI-aangedreven functies, chatbots en beeldmanipulatietools”, aldus de groep in een verklaring.
Ondertussen riep het National Center on Sexual Exploitation (NCOSE) in de VS het ministerie van Justitie en de Federal Trade Commission op om de zaak te onderzoeken in een interview met CNBC. Dani Pinter, hoofd juridische zaken en directeur van het Law Center for NCOSE, zei dat er “niet veel juridische prioriteit is voor deze specifieke kwesties.”
Ze zei echter dat federale wetten de creatie en distributie van materiaal over seksueel misbruik van kinderen (CSAM) verbieden en dat dit kan worden toegepast op virtueel gecreëerde inhoud “wanneer het een identificeerbaar kind afbeeldt, of een kind afbeeldt dat zich bezighoudt met expliciet seksueel gedrag.”
Deze wetten omvatten de Take It Down Act, die werd goedgekeurd door First Lady Melania Trump voordat het vorig jaar van kracht werd.
Een DOJ-woordvoerder zei maandagavond in een verklaring per e-mail aan CNBC: “Het ministerie van Justitie neemt door AI gegenereerd materiaal over seksueel misbruik van kinderen uiterst serieus en zal elke producent of bezitter van CSAM agressief vervolgen. We blijven zoeken naar manieren om de handhaving op dit gebied te optimaliseren om kinderen te beschermen en individuen ter verantwoording te roepen die technologie exploiteren om onze meest kwetsbaren te schaden.”
De FTC weigerde commentaar te geven. XAI heeft geen commentaar gegeven behalve een automatisch antwoord.
Het socialemediabedrijf van Musk heeft zaterdag zijn eerste publieke verklaring over de kwestie afgelegd in een bericht op het officiële X Safety-account.
“We ondernemen actie tegen illegale inhoud op X, inclusief materiaal over seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale overheden en wetshandhavers”, schreef het bedrijf.
Musk schreef in a apart bericht op X: “Iedereen die Grok gebruikt of aanzet tot het maken van illegale inhoud zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
De volgende dag belde een xAI-medewerker genaamd Ethan He schreef in een bericht op X dat Grok Imagine is bijgewerkt, maar hij heeft geen wijzigingen gespecificeerd met betrekking tot de mogelijkheid om schadelijke expliciete afbeeldingen te maken.
Musk en X hebben een geschiedenis waarin ze gebruikers die berichten hebben gemaakt waarin seksuele uitbuiting van kinderen wordt getoond, op het platform laten blijven.
In 2023 schortte X het account van een gebruiker genaamd Dom Lucre kort op en herstelde het vervolgens nadat hij ‘foto’s van kinderuitbuiting had gepost die verband hielden met de strafrechtelijke veroordeling van een Australische man op de Filippijnen’. Mashable gemeld. Musk zei destijds dat X besloot de aanstootgevende berichten van Lucre te verwijderen, maar de rechtse beïnvloeder weer op het platform te plaatsen. Lucre heeft momenteel een account waarmee inkomsten worden gegenereerd op X met 1,6 miljoen beursgenoteerde volgers.
Tom Quisel, CEO van Musubi AI, dat sociale netwerken en AI-bedrijven helpt bij het automatiseren van contentmoderatie met behulp van AI, zei dat het erop leek dat xAI er niet in was geslaagd zelfs maar ‘instapniveau-vertrouwen- en veiligheidslagen’ in te bouwen in de uitrol van Grok Imagine naar X.
Quisel zei dat het voor een bedrijf als xAI gemakkelijk zou zijn om zijn model ‘een afbeelding met kinderen of gedeeltelijke naaktheid’ te laten detecteren en blokkeren, of om de verzoeken van gebruikers om het onderwerp van een foto in seksueel suggestieve outfits te plaatsen, te weigeren.
De controverse heeft het verkeer van X niet geschaad.
Volgens Apptopia, dat trends in mobiele apps bijhoudt, zijn de dagelijkse downloads van Grok sinds 2 januari met 54% gestegen, terwijl de dagelijkse downloads van X de afgelopen drie dagen met 25% zijn gestegen.
HORLOGE: Elon Musk hekelt EU na boete van X
