Een nieuw onderzoek beweert dat de appstores van Apple en Google tientallen zogenaamde ‘nudify’ AI-apps hosten, ondanks dat dergelijke apps de regels van de bedrijven overtreden.
Het Transparantieproject (TTP), een groep verbonden aan de Kennedy School of Government van de Harvard Universiteit, vond tientallen apps in beide winkels die kleding digitaal verwijderen, waardoor de onderwerpen naakt of bijna naakt worden. Er werden 55 van dergelijke apps gevonden in de Google Play Store en 47 in de Apple App Store.
schreef TTP:
“De door TTP geïdentificeerde apps zijn gezamenlijk wereldwijd meer dan 705 miljoen keer gedownload en genereerden $117 miljoen aan inkomsten, volgens AppMagic, een bedrijf voor app-analyse. Omdat Google en Apple een deel van die inkomsten ontvangen, profiteren ze direct van de activiteit van deze apps.”
Beide technologiegiganten hebben gereageerd op het TTP-rapport. Appel vertelde CNBC het had 28 apps verwijderd die in het TTP-rapport waren geïdentificeerd, terwijl Google de outlet vertelde dat het “verschillende apps had opgeschort”, terwijl het opmerkte dat het onderzoek nog gaande was.
Mashbare lichtsnelheid
De TTP concludeert echter dat beide App Stores meer moeten doen om deepfakes zonder wederzijds goedvinden te stoppen.
“De bevindingen van TTP laten zien dat Google en Apple er niet in zijn geslaagd gelijke tred te houden met de verspreiding van AI-deepfake-apps die mensen kunnen ‘nudificeren’ zonder hun toestemming”, aldus het rapport. “Beide bedrijven zeggen dat ze toegewijd zijn aan de veiligheid en beveiliging van gebruikers, maar ze hosten een verzameling apps die een onschadelijke foto van een vrouw kunnen veranderen in een beledigend, geseksualiseerd beeld.
Het rapport van TTP volgt op de controverse rond Elon Musk en xAI’s Grok, die in verschillende landen wordt onderzocht vanwege het creëren van geseksualiseerde, niet-consensuele beelden. Uit een onderzoek van Mashable bleek dat Grok beschikt niet over elementaire veiligheidsleuningen om deepfakes te voorkomen. Bovendien zeggen onderzoekers dat Grok dat heeft gedaan creëerde meer dan 3 miljoen geseksualiseerde afbeeldingen – waaronder meer dan 20.000 die kinderen leken af te beelden – gedurende een periode van elf dagen tussen 29 december en 8 januari.
Met het aanbreken van het AI-tijdperk zullen seksuele deepfakes een groot probleem blijven voor technologiebedrijven.
