De Europese Unie opende een formeel onderzoek naar Elon Het socialemediaplatform van Musk X op maandag na de zijne kunstmatige intelligentie spuug zonder toestemming uitgespuwd geseksualiseerde deepfake-afbeeldingen op het perron.
Europese toezichthouders heeft ook een afzonderlijk, lopend onderzoek naar de aanbevelingssystemen van X uitgebreid nadat het platform had gezegd dat het zou overstappen naar het AI-systeem van Grok om te kiezen welke berichten gebruikers zien.
De kritiek vanuit Brussel komt nadat Grok een wereldwijde reactie teweegbracht door gebruikers via de AI-beeldgeneratie- en bewerkingsmogelijkheden toe te staan mensen uit te kleden, vrouwen in transparante bikini’s te plaatsen of kleding te onthullen. Onderzoekers zeiden dat sommige afbeeldingen kinderen leken te bevatten. Sommige regeringen hebben de dienst verboden of waarschuwingen afgegeven.
Het uitvoerend orgaan van de EU, dat uit 27 landen bestaat, zei dat het onderzoekt of X genoeg heeft gedaan zoals vereist door de digitale regelgeving van het blok om de risico’s van het verspreiden van illegale inhoud, zoals “gemanipuleerde seksueel expliciete beelden”, te beperken.
Dat omvat inhoud die “kan neerkomen op materiaal met seksueel misbruik van kinderen”, aldus de Europese Commissie. Deze risico’s zijn nu “gematerialiseerd”, aldus de commissie, waardoor de burgers van het blok aan “ernstige schade” zijn blootgesteld.
Toezichthouders zullen onderzoeken of Grok voldoet aan zijn verplichtingen onder de Digital Services Act, het uitgebreide regelboek van het blok om internetgebruikers te beschermen tegen schadelijke inhoud en producten.
In reactie op een verzoek om commentaar verwees een woordvoerster van X The Associated Press naar een eerdere verklaring dat het bedrijf “zich blijft inzetten om van X een veilig platform voor iedereen te maken” en dat het “nultolerantie” hanteert ten aanzien van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
In de X-verklaring van 14 januari stond ook dat gebruikers niet langer zouden worden toegestaan mensen in ‘bikini’s, ondergoed of andere onthullende kledij’ af te beelden, maar alleen op plaatsen waar dit als illegaal wordt beschouwd.
“Seksuele deepfakes van vrouwen en kinderen zonder wederzijds goedvinden zijn een gewelddadige, onaanvaardbare vorm van degradatie”, zegt Henna Virkkunen, uitvoerend vice-president bij de commissie, in een verklaring.
“Met dit onderzoek zullen we bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan, of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als bijkomende schade van zijn dienstverlening”, zegt Virkkunen, die toezicht houdt op technische soevereiniteit, veiligheid en democratie.
Musk’s kunstmatige intelligentiebedrijf xAI lanceerde afgelopen zomer de beeldtool van Grok. Maar het probleem begon pas eind vorige maand een sneeuwbaleffect te krijgen, toen Grok schijnbaar een groot aantal gebruikersverzoeken inwilligde om afbeeldingen te wijzigen die door anderen waren geplaatst. Het probleem werd versterkt omdat Musk zijn chatbot neerzet als een scherper alternatief met minder waarborgen dan rivalen, en omdat de reacties van Grok op X publiekelijk zichtbaar zijn en daarom gemakkelijk kunnen worden verspreid.
Het EU-onderzoek heeft alleen betrekking op de service van Grok op X, en niet op de website en zelfstandige app van Grok. Dat komt omdat de DSA alleen van toepassing is op de grootste online platforms.
Er is geen deadline voor het blok om de zaak op te lossen, wat zou kunnen resulteren in een belofte van X om zijn gedrag te veranderen of een flinke boete.
In december heeft Brussel X een boete van 120 miljoen euro (toen 140 miljoen dollar) opgelegd als onderdeel van het eerder lopende DSA-onderzoek, wegens tekortkomingen, waaronder blauwe vinkjes die de regels over ‘misleidende ontwerppraktijken’ overtreden die het risico liepen gebruikers bloot te stellen aan oplichting en manipulatie.
Het blok heeft X ook onder de loep genomen vanwege beschuldigingen dat Grok antisemitisch materiaal zou hebben gegenereerd en heeft de site om meer informatie gevraagd.
Maleisië en Indonesië blokkeerden eerder deze maand de toegang tot Grok als reactie op de controverse en waren daarmee de eerste landen die dit deden.
Vrijdag zeiden de Maleisische autoriteiten dat ze de tijdelijke beperking hadden opgeheven nadat het bedrijf aanvullende beveiligings- en preventiemaatregelen had getroffen, zonder verdere details te geven. De Maleisische toezichthouders zeiden dat ze vorige week een ontmoeting hadden gehad met de vertegenwoordigers van X en de situatie in de gaten zouden blijven houden.
__
AP-schrijver Eileen Ng uit Kuala Lumpur heeft bijgedragen aan dit rapport
—Kelvin Chan, zakelijk schrijver van AP
