Een platform dat ‘pittige AI-chats’ belooft, heeft bijna twee miljoen afbeeldingen en video’s achtergelaten, waarvan vele particuliere burgers laten zien, blootgesteld aan het publiek, 404 Media berichtten.
Secret Desires, een erotische chatbot en AI-beeldgenerator, liet cloudopslagcontainers met foto’s, vrouwennamen en andere persoonlijke informatie zoals werkplekken en universiteiten kwetsbaar achter, aldus 404 Media.
Dit ‘enorme lek’ is het nieuwste voorbeeld van mensen die generatieve AI-tools gebruiken om onschuldige foto’s om te zetten in expliciete deepfakes zonder wederzijds goedvinden.
Aansluit-apps voor iedereen
—
lezerskeuze voor informele verbindingen
—
beste keuze voor het vinden van aansluitingen
—
populaire keuze voor regelmatige bijeenkomsten
Producten die te koop zijn via affiliatielinks. Als u iets koopt via links op onze site, kan Mashable een partnercommissie verdienen.
Sommige foto’s en video’s zijn afkomstig van echte influencers, publieke figuren en niet-beroemde vrouwen. In de laatste categorie zijn Snapchat-screenshots en minimaal één jaarboekfoto opgenomen. Sommige van de blootgestelde media bevatten door gebruikers gegenereerde AI-afbeeldingen, zoals die gemaakt met een inmiddels ter ziele gegane ‘faceswap’-functie, die Secret Desires eerder dit jaar verwijderde.
Mashable-trendrapport
Leuk vinden Karakter.AI of Replika, met Secret Desires kunnen gebruikers AI-persona’s creëren en met hen chatten. Terwijl pornografische inhoud is niet toegestaan op Character.AI (en is alleen toegestaan voor bepaalde Replika-gebruikers), zegt Secret Desires dat het “onbeperkte intimiteit en verbinding biedt” in de snelstartgids.
Zoals 404 Media ontdekte, waren de door AI gegenereerde media in de kwetsbare opslagcontainers meestal expliciet. Sommige bestandsnamen bevatten termen als ’17 jaar oud’.
Het bedrijf reageerde niet op het verzoek van 404 Media om commentaar, maar de bestanden werden ongeveer een uur nadat de publicatie was bereikt ontoegankelijk.
Vrouwen en meisjes zijn dat al jaren slachtoffers van expliciete deepfakesdit zijn door AI gegenereerde inhoud. Veel deepfakes zijn gelijkenissen van vrouwen die op pornografische video’s zijn ‘faceswapped’. Dit geldt voor beroemdheden als Taylor Swift evenals vrouwen die niet beroemd zijn. Dit gebeurt ook met meisjes, creëren online materiaal over kinderseksmisbruik.
Dit jaar keurde het Congres de Take It Down-actie om deepfake-afbeeldingen tegen te gaan. De wet bewees controverseelaangezien verschillende groepen voor de vrijheid van meningsuiting en belangenbehartiging beweren dat dit als wapen kan worden ingezet tegen consensueel expliciet materiaal of politieke uitlatingen.
Onderwerpen
Kunstmatige intelligentie
