Een AI-afbeelding Het opstarten van de generator liet meer dan 1 miljoen afbeeldingen en video’s achter, gemaakt met zijn systemen zichtbaar en toegankelijk voor iedereen online, volgens nieuw onderzoek beoordeeld door WIRED. De ‘overweldigende meerderheid’ van de afbeeldingen betrof naaktheid en was ‘inhoud voor volwassenen’, aldus de onderzoeker die de blootgestelde schat aan gegevens blootlegde, waarbij sommige kinderen leken af te beelden of de gezichten van kinderen waren verwisseld naar de door AI gegenereerde lichamen van naakte volwassenen.
Meerdere websites, waaronder MagicEdit en DreamPal, leken allemaal dezelfde onbeveiligde database te gebruiken, zegt beveiligingsonderzoeker Jeremiah Fowler, die het beveiligingslek in oktober ontdekte. Destijds, zegt Fowler, werden er elke dag ongeveer 10.000 nieuwe afbeeldingen aan de database toegevoegd. Deze afbeeldingen geven aan hoe mensen mogelijk de tools voor het genereren en bewerken van afbeeldingen hebben gebruikt en bevatten ‘ongewijzigde’ foto’s van echte mensen die mogelijk zonder toestemming ‘naakt gemaakt,‘Of hun gezichten werden verwisseld naar andere, naakte lichamen.
“Het echte probleem is dat onschuldige mensen, en vooral minderjarige mensen, hun afbeeldingen zonder hun toestemming gebruiken om seksuele inhoud te maken”, zegt Fowler, een productieve jager van blootgestelde databases, die de bevindingen op het internet publiceerde. ExpressVPN-blog. Fowler zegt dat dit de derde verkeerd geconfigureerde is Database voor het genereren van AI-afbeeldingen hij heeft dit jaar online toegankelijk gevonden – en ze lijken allemaal niet-consensuele expliciete beelden te bevatten, inclusief die van jonge mensen en kinderen.
De bevindingen van Fowler komen omdat tools voor het genereren van AI-beelden nog steeds worden gebruikt om op kwaadaardige wijze expliciete beelden van mensen te creëren. Een enorm ecosysteem van ‘nudify’-diensten, dat wel gebruikt door miljoenen mensen En miljoenen dollars per jaar verdienenmaakt gebruik van AI om de kleding van mensen – bijna uitsluitend vrouwen – op foto’s ‘uit te trekken’. Foto’s die van sociale media zijn gestolen, kunnen met slechts een paar klikken worden bewerkt, wat leidt tot schrijnende mishandeling en intimidatie van vrouwen. In de tussentijd, rapporten van criminelen die AI gebruiken om materiaal over seksueel kindermisbruik te maken, waaronder: reeks onfatsoenlijke beelden waarbij kinderen betrokken zijn, zijn het afgelopen jaar verdubbeld.
“We nemen deze zorgen uiterst serieus”, zegt een woordvoerder van een startup genaamd DreamX, die MagicEdit en DreamPal exploiteert. De woordvoerder zegt dat een aan de database gekoppeld influencer-marketingbedrijf, genaamd SocialBook, wordt gerund “door een afzonderlijke juridische entiteit en niet betrokken is” bij de exploitatie van andere sites. “Deze entiteiten delen een aantal historische relaties via oprichters en oude activa, maar ze opereren onafhankelijk met afzonderlijke productlijnen”, zegt de woordvoerder.
“SocialBook is niet verbonden met de database waarnaar u verwijst, maakt geen gebruik van deze opslag en was op geen enkel moment betrokken bij de werking of het beheer ervan”, vertelt een woordvoerder van SocialBook aan WIRED. “De afbeeldingen waarnaar wordt verwezen, zijn niet gegenereerd, verwerkt of opgeslagen door de systemen van SocialBook. SocialBook opereert onafhankelijk en speelt geen rol in de beschreven infrastructuur.”
