Indonesië en Maleisië zijn de eerste twee landen die Elon Musk’s verbieden kunstmatige intelligentie tool Grok, nadat de generatieve AI het sociale mediaplatform X feitelijk overspoelde met onzedelijke, seksueel expliciete beelden van jonge meisjes en vrouwen die zonder hun toestemming waren gemaakt.
Muskus vouwde de generatieve AI-tool in X toen hij Twitter overnam en ‘vrijheid van meningsuiting’ beloofde. Critici zeggen echter dat het in plaats daarvan een voorbeeld is van hoe generatieve AI, zonder duidelijke vangrails en regulering, tot schade kan leiden.
Dit is wat u moet weten.
Wat gebeurt er met Grok?
Kortom, gebruikers typen eenvoudige aanwijzingen in de AI-tool op X om zich “digitaal uit te kleden” meisjes en vrouwen, waarvan sommige minderjarig lijken te zijn, wat de chatbot ertoe aanzet kleding van de echte foto’s te verwijderen en de onderwerpen zelfs in seksueel suggestieve poses te plaatsen.
Deze deepfake-beelden zouden wetten in binnen- en buitenland kunnen overtreden en tot wereldwijde publieke verontwaardiging hebben geleid CNN.
Hoe hebben andere landen dan Indonesië en Maleisië gereageerd?
Maandag heeft de Britse onafhankelijke onlineveiligheidswaakhond Ofcom een formeel onderzoek gestart of de expliciete afbeeldingen van de chatbot in strijd waren met de regels om de burgers van het land te beschermen tegen illegale inhoud.
“Berichten dat Grok wordt gebruikt om illegale, niet-consensuele intieme beelden en materiaal over seksueel kindermisbruik op X te maken en te delen, zijn zeer zorgwekkend”, zegt een woordvoerder van Ofcom. zei in een verklaring.
“Platforms moeten mensen in Groot-Brittannië beschermen tegen inhoud die illegaal is in Groot-Brittannië, en we zullen niet aarzelen om te onderzoeken waar we vermoeden dat bedrijven hun plichten niet nakomen, vooral als er een risico bestaat op schade aan kinderen. We zullen dit onderzoek als een kwestie van de hoogste prioriteit voortzetten, terwijl we ervoor zorgen dat we een eerlijk proces volgen.”
Wat heeft Elon Musk gezegd?
Ondanks oproepen van het grote publiek – waaronder van een recent doelwit van Grok’s misbruik, conservatieve beïnvloeder Ashley St. Clairdie naar verluidt de vader is van een van Musks kinderen – X heeft Grok niet uitgeschakeld of verhinderd dat hij de onzedelijke beelden genereert.
Op 3 januari, Musk gereageerd op X: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt” – in feite schuift hij de schuld op zijn eigen gebruikers. Dit leidde tot een hele reeks reacties op de post, die door zo’n 3,8 miljoen gebruikers is bekeken, waaronder: “Als u er echt om geeft, begin dan met het aanpakken van de ongepaste afbeeldingen van minderjarigen”, meer oproepen aan Musk om “maak uw site schoon”, evenals door AI gegenereerde afbeeldingen van Muskus in bikini’s.
Vorige week zei X dat de tool voor het genereren van afbeeldingen van Grok alleen beschikbaar zou zijn voor betalende gebruikers. volgens De New York Times.
