De prinses van Wales is een van de spraakmakende slachtoffers van een AI-tool op X waarmee gebruikers zonder hun toestemming ongeklede afbeeldingen van mensen kunnen maken
De Prinses van Wales behoort tot een aantal vrouwen van wie er online grimmige ‘uitgeklede’ AI-afbeeldingen van hen zijn gemaakt. Socialmediaplatform X, voorheen Twitterenwordt nu geconfronteerd met een onderzoek nadat bleek dat Grok, de AI-chatbot ontwikkeld door xAI van Elon Musk, werd aangezet om realistisch ogende beelden van Kate in bikini te genereren.
Er wordt aangenomen dat ze een van de duizenden vrouwen is, waarvan echte foto’s zonder hun toestemming zijn gewijzigd, zodat het lijkt alsof ze badkleding dragen of in geseksualiseerde situaties terechtkomen. Nu heeft Ofcom na ernstige zorgen “dringend contact” gelegd met het sociale mediaplatform. Ofcom zegt dat het contact heeft opgenomen met X en xAI om te begrijpen welke stappen zijn genomen om dit aan te pakken, maar dat het nog geen onderzoek is gestart.
LEES MEER: Kate Middleton geeft toe dat ze een ‘notoir slechte’ gewoonte heeft die haar kerstcadeaus inspireerdeLEES MEER: Koninklijke familie LIVE: Andrews ‘dakloze’ dreiging wordt beschaamd nu de verhuizing van de Royal Lodge vastloopt
Een woordvoerder van de toezichthouder zei: “Het aanpakken van illegale online schade en het beschermen van kinderen blijven urgente prioriteiten voor Ofcom. We zijn ons bewust van ernstige zorgen over een functie op Grok op X die ongeklede afbeeldingen van mensen en geseksualiseerde afbeeldingen van kinderen produceert.
“We hebben dringend contact opgenomen met X en xAI om te begrijpen welke stappen zij hebben ondernomen om te voldoen aan hun wettelijke verplichtingen om gebruikers in het VK te beschermen.
“Op basis van hun reactie zullen we snel een beoordeling uitvoeren om te bepalen of er potentiële nalevingsproblemen zijn die onderzoek rechtvaardigen.”
Een bericht op het Grok X-account zei dat er “geïsoleerde gevallen zijn geweest waarin gebruikers vroegen om AI-afbeeldingen van minderjarigen in minimale kleding en deze ontvingen”, en voegde eraan toe: “xAI heeft waarborgen, maar er zijn verbeteringen aan de gang om dergelijke verzoeken volledig te blokkeren.” De Spiegel heeft contact opgenomen met Kensington Palace voor commentaar.
Kerry Smith, CEO van de Internet Watch Foundation, zei: “De IWF heeft een aantal rapporten van het publiek ontvangen met betrekking tot beelden van vermoedelijk seksueel misbruik van kinderen op X, gegenereerd door de AI-chatbot Grok.
“We werken nog steeds aan deze rapporten, maar tot nu toe hebben we geen enkel beeldmateriaal gezien dat de wettelijke drempel overschrijdt om in Groot-Brittannië als seksueel kindermisbruik te worden beschouwd.” Ze drong er bij de regering op aan om AI-bedrijven te verplichten veiligheidsmaatregelen in hun producten in te bouwen om schadelijke inhoud te voorkomen.
In oktober bleek dat de Prins en Prinses van Wales had een juridische strijd gewonnen nadat hij een Frans tijdschrift had aangeklaagd wegens een “zeer opdringerig artikel en paparazzifoto’s met lange lenzen”.
De foto’s, gepubliceerd door Paris Match, toonden William en Kate en hun drie kinderen Prins GeorgePrinses Charlotte en Prins Louis genoten afgelopen april van een vakantie in de Alpen.
In 2012 klaagde het stel ook het Franse tijdschrift Closer aan nadat het foto’s had gepubliceerd van het stel op vakantie in het land. Het tijdschrift kwam nadat het tijdschrift veertien afbeeldingen had gebruikt van Kate en William die genoten van privévakantiemomenten in Chateau d’Autet, nabij Aix-en-Provence.
