Twee mannen zijn officieel beschuldigd van een federaal misdrijf nadat ze waren betrapt op het genereren en publiceren AI deepfakes van vrouwelijke beroemdheden.
Federale aanklagers arresteerde twee mannen in combinatie met een strafrechtelijke klacht waarin beide afzonderlijk seksueel expliciete AI-inhoud maakten die door miljoenen gebruikers online werd bekeken. De inhoud bevatte vrouwelijke politici, muzikanten, zangers en privéfoto’s van vrouwen die bekend waren bij een van de verdachten.
De twee mannen riskeren een gevangenisstraf van twee jaar.
Mashbare lichtsnelheid
De mannen worden berecht onder leiding van president Donald Trump Take It Down-actiedie het publiceren of dreigen met het publiceren van niet-consensuele intieme beelden strafbaar stelt, waaronder door AI gegenereerde pornografie met echte individuen. Het wetsvoorstel, gesteund door First Lady Melania Trump en verschillende grote organisaties die seksuele cybercriminaliteit en seksueel misbruik van kinderen aanpakken, werd precies een jaar geleden van kracht.
Destijds vroegen veel experts zich af hoe de daad in elkaar zat daadwerkelijk zou worden afgedwongen onder de Federal Trade Commission, waarbij specifiek de aandacht wordt gevestigd op verwijderingsprocedures en verhaalsmogelijkheden voor de slachtoffers zelf. Anderen waren bang dat de algemene richtlijnen van het wetsvoorstel zouden worden betwist op grond van de vrijheid van meningsuiting.
Vorige maand werd de Take It Down Act in beslag genomen eerste veroordelingnadat een man uit Ohio schuldig had gepleit voor het lastigvallen van vrouwen met niet-consensuele AI-afbeeldingen en -video’s waarin ze worden afgebeeld tijdens seksuele handelingen, en voor het genereren van materiaal over seksueel misbruik van kinderen (CSAM) met behulp van de technologie.
“Deze zaak maakt duidelijk dat het plaatsen van deepfake-pornografie geen misdaad zonder slachtoffers is”, zei de Amerikaanse advocaat Joseph Nocella na de arrestaties.
