Drie websites die gebruikt werden om misbruikbeelden te maken, kregen maandelijks 100.000 bezoeken van Australiërs, zegt Watchdog.
Gepubliceerd op 27 november 2025
Internetgebruikers in Australië hebben geen toegang meer tot verschillende websites die kunstmatige intelligentie gebruiken om materiaal over seksuele uitbuiting van kinderen te maken, zo heeft de internettoezichthouder van het land aangekondigd.
De drie ‘nudify’-sites trokken zich terug uit Australië na een officiële waarschuwing, zei eSafety-commissaris Julie Inman Grant donderdag.
Aanbevolen verhalen
lijst van 4 artikeleneinde van de lijst
Grant’s kantoor zei dat de sites ongeveer 100.000 bezoeken per maand ontvingen van Australiërs en dat ze te zien waren in spraakmakende gevallen van door AI gegenereerde beelden van kinderseksmisbruik waarbij Australische scholieren betrokken waren.
Grant zei dat dergelijke ‘nudify’-diensten, waarmee gebruikers afbeeldingen van echte mensen naakt kunnen laten lijken met behulp van AI, een ‘verwoestend’ effect hebben gehad op Australische scholen.
“We hebben in september handhavend opgetreden omdat deze aanbieder er niet in slaagde veiligheidsmaatregelen te treffen om te voorkomen dat zijn diensten zouden worden gebruikt om materiaal voor seksuele uitbuiting van kinderen te creëren en zelfs functies op de markt brachten zoals het uitkleden van ‘elk meisje’, en met opties voor het genereren van ‘schoolmeisjes’-afbeeldingen en functies zoals de ‘seksmodus’”, zei Grand in een verklaring.
De ontwikkeling komt nadat het kantoor van Grant in september een formele waarschuwing had afgegeven aan het in Groot-Brittannië gevestigde bedrijf achter de locaties, waarin werd gedreigd met civielrechtelijke boetes tot 49,5 miljoen Australische dollar ($32,2 miljoen) als het geen waarborgen zou introduceren om op afbeeldingen gebaseerd misbruik te voorkomen.
Grant zei dat Hugging Face, een hostingplatform voor AI-modellen, afzonderlijk ook stappen heeft ondernomen om te voldoen aan de Australische wet, waaronder het wijzigen van de servicevoorwaarden om van accounthouders te eisen dat ze stappen ondernemen om de risico’s van misbruik met betrekking tot hun platforms te minimaliseren.
Australië loopt voorop bij de mondiale inspanningen om de online schade van kinderen te voorkomen, door sociale media voor jongeren onder de 16 jaar te verbieden en hard op te treden tegen apps die worden gebruikt voor stalking en het maken van deepfake-afbeeldingen.
Het gebruik van AI om niet-consensuele seksueel expliciete beelden te creëren is een groeiende zorg geworden te midden van de snelle proliferatie van platforms die met één muisklik fotorealistisch materiaal kunnen creëren.
In een onderzoek dat vorig jaar werd uitgevoerd door de Amerikaanse belangenorganisatie Thorn, meldde 10 procent van de respondenten tussen de 13 en 20 jaar dat ze iemand kenden die deepfake naaktbeelden van hen had gemaakt, terwijl 6 procent zei dat ze een direct slachtoffer waren van dergelijk misbruik.
