Sommige gebruikers van populaire chatbots genereren bikini deepfakes met foto’s van volledig geklede vrouwen als bronmateriaal. De meeste van deze nepbeelden lijken te zijn gegenereerd zonder toestemming van de vrouwen op de foto’s. Sommige van deze zelfde gebruikers geven anderen ook advies over hoe ze de generatieve AI-tools kunnen gebruiken om de kleding van vrouwen op foto’s uit te trekken, zodat het lijkt alsof ze bikini’s dragen.
Onder een nu verwijderd Reddit post met de titel “Gemini nsfw-afbeelding genereren is zo eenvoudig”, wisselden gebruikers tips uit over hoe ze dit konden krijgen Tweelinghet generatieve AI-model van Google, om foto’s te maken van vrouwen in onthullende kleding. Veel van de afbeeldingen in de thread waren volledig AI, maar één verzoek viel op.
Een gebruiker plaatste een foto van een vrouw die een Indiase sari droeg, en vroeg of iemand haar kleren ‘uit wilde trekken’ en in plaats daarvan ‘een bikini aan wilde trekken’. Iemand anders antwoordde met een deepfake-afbeelding om aan het verzoek te voldoen. Nadat WIRED Reddit op de hoogte had gesteld van deze berichten en het bedrijf om commentaar had gevraagd, verwijderde het veiligheidsteam van Reddit het verzoek en de AI-deepfake.
“De sitewide-regels van Reddit verbieden niet-consensuele intieme media, inclusief het gedrag in kwestie”, aldus een woordvoerder. De subreddit waar deze discussie plaatsvond, r/ChatGPTJailbreak, had meer dan 200.000 volgers voordat Reddit deze verbood onder de “verbreek de site nietregel.
Als generatieve AI tools die het gemakkelijk maken om realistische, maar valse beelden te creëren blijven zich verspreiden, gebruikers van de tools zijn vrouwen blijven lastigvallen met niet-consensuele deepfake-beelden. Miljoenen hebben bezocht schadelijke ‘nudify’-websitesontworpen zodat gebruikers echte foto’s van mensen kunnen uploaden en kunnen verzoeken dat ze zich uitkleden met behulp van generatieve AI.
Met »AI is Grok Als opmerkelijke uitzondering staan de meeste reguliere chatbots meestal niet het genereren van NSFW-afbeeldingen in AI-uitvoer toe. Deze bots, waaronder Google’s Gemini en OpenAI’s ChatGPT, zijn ook uitgerust met vangrails die schadelijke generaties proberen te blokkeren.
In november bracht Google dit uit Nano Banaan Proeen nieuw beeldvormingsmodel dat uitblinkt in het aanpassen van bestaande foto’s en het genereren van hyperrealistische afbeeldingen van mensen. OpenAI reageerde vorige week met zijn eigen bijgewerkte beeldvormingsmodel, ChatGPT-afbeeldingen.
Naarmate deze tools verbeteren, kunnen gelijkenissen realistischer worden wanneer gebruikers in staat zijn om vangrails te ondermijnen.
In een aparte Reddit-thread over het genereren van NSFW-afbeeldingen vroeg een gebruiker om aanbevelingen over hoe je vangrails kunt vermijden bij het aanpassen van iemands outfit om de rok van het onderwerp strakker te laten lijken. In de beperkte tests van WIRED om te bevestigen dat deze technieken werkten op Gemini en ChatGPT, waren we in staat om afbeeldingen van volledig geklede vrouwen om te zetten in deepfakes in bikini’s met behulp van eenvoudige aanwijzingen in eenvoudig Engels.
