X krijgt te maken met toenemende kritiek van buitenlandse waakhonden op zijn generatieve AI-chatbot, Grok.
Dat heeft de Ierse Data Protection Commission dinsdag gezegd dat het een onderzoek had geopend naar X van Elon Musk, voorheen bekend als Twitter.
De commissie zei in een persbericht dat het onderzoek verband hield met de creatie en publicatie van niet-consensuele, geseksualiseerde beelden van inwoners van de Europese Unie op X met behulp van de generatieve AI-functies van Grok. Dit omvatte foto’s van kinderen.
De commissie, die verantwoordelijk is voor de handhaving van de Algemene Verordening Gegevensbescherming van de EU, zei in het persbericht dat zij X maandag op de hoogte heeft gesteld van het onderzoek.
X heeft niet gereageerd op een verzoek om commentaar van Business Insider.
Grok is een chatbot ontwikkeld door Musk’s xAI, nu een dochteronderneming van zijn ruimtevaartbedrijf SpaceX.
Het onderzoek van de commissie volgt op een aantal weken van controverse rond Grok en X. Het platform kwam in januari wereldwijd onder vuur te liggen nadat berichten naar buiten kwamen dat Grok-gebruikers geseksualiseerde afbeeldingen van echte mensen maakten, waaronder minderjarigen.
Landen zoals Indonesië, Maleisiëen de Filippijnen hebben tijdelijk de toegang tot Grok opgeschort. De Europese Commissie startte een onderzoek naar Grok, terwijl het Indiase ministerie van informatietechnologie zijn verzet uitte via een brief aan de Chief Compliance Officer van de Indiase activiteiten van X.
De procureur-generaal van Californië, Rob Bonta, zei begin januari ook dat hij een onderzoek was gestart naar de AI-deepfakes van Grok.
Als reactie hierop heeft X Grok’s tool voor het genereren van AI-afbeeldingen gemaakt premium-functie beperkt tot betalende abonnees en stopte later met het genereren van geseksualiseerde afbeeldingen. Echter, een Business Insider-rapport ontdekte dat het nog steeds mogelijk was om deze afbeeldingen te activeren in de web- en mobiele applicaties van Grok.
Als reactie op de reacties op Grok zei Musk in een X-post op 3 januari: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
