Dinsdag keurde de Senaat unaniem een wetsvoorstel goed dat slachtoffers in staat stelt de makers van niet-consensuele seksueel expliciete deepfakes aan te klagen voor een minimum van $150.000.
De DEFIANCE Act is nu op weg naar het Huis van Afgevaardigden, waar de leiding er de afgelopen zittingsperiode niet in is geslaagd deze ter tafel te brengen. Maar er is een nieuw momentum rond de kwestie, nu voorstanders er bij Google en Apple op aandringen om Grok uit app-winkels te verbannen nadat de chatbot het creëren van intieme beelden zonder wederzijds goedvinden toestond.
Op 20 december kondigde Elon Musk, de CEO van sociale mediaplatform X, de rijkste persoon ter wereld en naaste medewerker van de Trump-regering, aan dat de geïntegreerde chatbot Grok van het bedrijf afbeeldingen zou kunnen genereren op basis van gebruikersprompts.
X-gebruikers beseften al snel dat dit mogelijk was expliciete afbeeldingen maken door Grok ertoe aan te zetten vrouwen en meisjes ‘uit te kleden’. Verschillende oplossingen hebben geresulteerd in niet-consensuele intieme beelden van echte mensen over het hele platforminclusief materiaal over seksueel misbruik van kinderen en valse afbeeldingen van moslimvrouwen met hun hijabs verwijderd.
Op 3 januari verscheen het officiële account van het veiligheidsteam van X een korte verklaring geplaatst zeggen dat het platform illegale inhoud verwijdert. “Iedereen die Grok gebruikt of aanzet tot het maken van illegale inhoud zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, aldus de verklaring.
Op de vraag of er wijzigingen zijn aangebracht aan de chatbot om het maken van niet-consensuele afbeeldingen te voorkomen, reageerde het mediateam van xAI op The 19th, opgericht in 2020, “Legacy Media Lies.” xAI, eveneens opgericht door Musk, is de ontwikkelaar van Grok. X, het sociale mediaplatform dat formeel bekend staat als Twitter, reageerde niet onmiddellijk op vragen per e-mail.
Op of rond 9 januari lijkt het erop dat X de mogelijkheden voor het genereren van afbeeldingen van Grok achter een betaalmuur heeft verplaatst. Deze stap werd grotendeels bekritiseerd door deskundigen op het gebied van technologiebeleid en voorstanders van overlevenden, die zeggen dat het bedrijf nu profiteert van misbruik. (The Verge meldde ook de betaalmuur heeft niet voorkomen bevrijd gebruikers van het genereren van expliciete afbeeldingen.)
“Seksueel misbruik is geen premiumdienst. Het is een misdaad”, zegt Jenna Sherman, campagneleider bij de belangenbehartigingsgroep UltraViolet voor genderrechtvaardigheid.
Nadat hij het bedrijf in 2022 had overgenomen, nam Musk Twitter’s door vrijwilligers gerunde Trust and Safety Council werd ontbonden, leidde tot een intimidatiecampagne tegen het hoofd van vertrouwen en veiligheid en heeft het team uitgeroeid verantwoordelijk voor het modereren van de inhoud.
Senator Dick Durbin, een van de medesponsors van de Senaatsversie van de DEFIANCE Act, haalde het Grok-schandaal aan en de matte reactie van X toen hij dinsdagochtend over de wetgeving ter stemming bracht.
“Zelfs nadat Grok en X, voorheen Twitter, op deze vreselijke, deepfake, schadelijke beelden waren gewezen, reageerden ze niet. Ze halen de beelden niet van het internet. Ze komen de mensen die het slachtoffer zijn niet redden”, zei hij.
“Daarom is deze wetgeving van cruciaal belang, omdat deze wetgeving bepaalt dat als ze zich schuldig maken aan dergelijk roekeloos wangedrag, ze daarvoor kunnen worden aangeklaagd en civiel aansprakelijk kunnen worden gesteld voor de schade.”
Durbin prees de passage met unanieme instemming toen gepolariseerde partijen samenkwamen over een tweeledige kwestie. Het wetsvoorstel wordt mede gesponsord door de democraat uit Illinois en senator Lindsey Graham, een republikein uit South Carolina.
Het is niet duidelijk of de DEFIANCE Act het bedrijf X civiel aansprakelijk kan stellen voor de uitbarsting van niet-consensuele beelden, zegt Omny Miranda Martone, de oprichter en CEO van de non-profitorganisatie Sexual Violence Prevention Association, maar het onderstreept hoe het probleem zal blijven groeien.
De DEFIANCE-wet was vorige zitting in de Tweede Kamer geïntroduceerd door vertegenwoordigers Alexandra Ocasio-Cortez, een democraat uit New York, en Laurel Lee, een republikein uit Florida. Ocasio-Cortez heeft de kwestie consequent onder de aandacht gebracht en haar ervaringen gedeeld als doelwit van deepfake-misbruik.
Het is geen toeval dat vrouwelijke wetgevers deze kwestie verdedigen, aangezien zij waarschijnlijk het doelwit zijn van dit soort digitaal seksueel geweld. A Rapport 2024 van het Amerikaanse Sunlight Project vond 35.000 vermeldingen van niet-consensuele intieme beelden van 26 leden van het Congres. Vijfentwintig van die wetgevers waren vrouwen.
Martone merkte op dat de House-versie sinds begin dit jaar zes medesponsors heeft gekregen, waaronder drie vrouwen, gelijk verdeeld over de partijen.
Vorig jaar, Het congres keurde de Take It Down Act goeddat zowel echte als door de computer gegenereerde, niet-consensuele intieme beelden verbiedt. Platforms zullen tegen mei van dit jaar een proces moeten implementeren om niet-consensuele intieme afbeeldingen binnen 48 uur te verwijderen.
De DEFIANCE Act en de Take It Down Act zijn altijd opgevat als een dubbele oplossing voor het probleem van deepfake-misbruik, zei Martone. De Vereniging ter Preventie van Seksueel Geweld was betrokken bij het opstellen van beide wetsvoorstellen.
De Take It Down Act stelt rechtbanken en officieren van justitie in staat actie te ondernemen tegen niet-consensuele beelden en oefent ook druk uit op socialemediabedrijven en zoekmachines om schadelijke inhoud te verwijderen, aldus Martone. De DEFIANCE Act is bedoeld om overlevenden meer macht te geven, zodat zij kunnen beslissen of zij de daders rechtstreeks voor de rechter willen dagen.
“Het meest empowerende wat je kunt doen met overlevenden is hen opties geven, en dat is het doel van de DEFIANCE Act,” zeiden ze.
Martone’s pleidooi tegen digitaal seksueel geweld leidde ertoe dat vreemden hen aanvielen met expliciete deepfakes. Het misbruik was specifiek gericht tegen Martone en hun organisatie als geheel. Martone moest tijd vrijmaken van zijn werk en huur en boodschappen betalen om hulp te krijgen bij het verwijderen van de afbeeldingen.
Als de DEFIANCE Act tot wet wordt ondertekend, hoopt Martone deze te gebruiken om niet alleen de schade door emotionele schade te vergoeden, maar ook de zeer tastbare kosten van het omgaan met dit soort misbruik.
Zowel de DEFIANCE Act als de Take It Down Act werden geïntroduceerd nadat door AI gegenereerde seksueel expliciete afbeeldingen van Taylor Swift in januari 2024 viraal gingen op X. Het bedrijf blokkeerde zoekopdrachten naar haar naam en verwijderde uiteindelijk de afbeeldingen. delen dat het plaatsen van niet-consensuele intieme beelden “ten strengste verboden” is en het heeft een “nultolerantiebeleid ten aanzien van dergelijke inhoud.”
404 Media hebben de deepfakes van Swift getraceerd naar een Telegram-groep misbruik maken van een maas in de wet in de Designer-afbeeldingsgenerator van Microsoft. Microsoft ondernam onmiddellijk actie om de exploit aan te pakken.
“Het gaat om mondiale, maatschappelijke convergentie op het gebied van bepaalde normen, en dat kunnen we doen, vooral als je wet- en rechtshandhavings- en technologieplatforms hebt die samen kunnen komen”, zegt Satya Nadella, CEO van Microsoft. zei in een interview met NBC-nieuws.
“Ik denk dat we veel meer kunnen regeren dan we onszelf toeschrijven.”
Correctie: in een eerdere versie van dit artikel werd de districtsvertegenwoordiger Laurel Lee verkeerd weergegeven.
