Belangengroepen en experts veroordeelden YouTube vanwege het aanbieden ervan door kunstmatige intelligentie gegenereerde video’s van lage kwaliteit voor het meest kwetsbare publiek: kinderen.
In een brief aan YouTube CEO Neal Mohan en Sundar Pichai, de CEO van YouTube’s moederbedrijf Google, kinderbelangenorganisatie Fairplay, uiten “ernstige bezorgdheid” over de verspreiding van Door AI gegenereerde video’s op zowel YouTube als YouTube Kids. De brief, die woensdagochtend werd verzonden, werd ondertekend door ruim 200 organisaties en individuele deskundigen, zoals kinderpsychiaters en opvoeders.
“Dit ‘AI slop’ schaadt de ontwikkeling van kinderen door hun werkelijkheidsgevoel te vervormen, hun leerprocessen te overweldigen en hun aandacht te kapen, waardoor de tijd online wordt verlengd en offline activiteiten worden verdrongen die nodig zijn voor hun gezonde ontwikkeling”, aldus de brief. “Deze schade is vooral acuut voor jonge kinderen.” In de brief wordt YouTube opgeroepen om alle door AI gegenereerde inhoud duidelijk te labelen en alle door AI gegenereerde inhoud op YouTube Kids te verbieden. Ze stellen ook voor om te voorkomen dat door AI gegenereerde video’s worden aanbevolen aan gebruikers onder de 18 jaar en om een optie in te voeren voor ouders om door AI gegenereerde inhoud uit te schakelen, zelfs als hun kind ernaar zoekt.
De brief is ondertekend door 135 organisaties, waaronder de American Federation of Teachers en de American Counseling Association, en ongeveer 100 individuele experts zoals Jonathan Haidt, auteur van The Anxious Generation. De brief maakt deel uit van een grotere campagne van Fairplay waar ook een petitie onder valt.
Veel van deze door AI gegenereerde inhoud heeft een snel tempo, met felle kleuren, levendige muziek en clickbait-titels die de aandacht van jonge kijkers trekken, zo schetst de brief. Er is online een groeiende beweging tegen door AI gegenereerde inhoud, vooral als deze van lage kwaliteit lijkt of aanvoelt of neigt naar de zinloosheid van ‘brainrot’.
Woordvoerder Boot Bullwinkle zei in een verklaring dat YouTube “hoge normen hanteert voor de inhoud van YouTube Kids, waaronder het beperken van door AI gegenereerde inhoud in de app tot een klein aantal hoogwaardige kanalen.”
“We bieden ouders ook de mogelijkheid om kanalen te blokkeren. Op YouTube geven we prioriteit aan transparantie als het gaat om AI-inhoud, labelen we inhoud van onze eigen AI-tools en eisen we van makers dat ze realistische AI-inhoud vrijgeven”, aldus Bullwinkle. “We zijn voortdurend bezig met het ontwikkelen van onze aanpak om bij te blijven terwijl het ecosysteem evolueert.”
Het huidige beleid van YouTube met betrekking tot door AI gegenereerde inhoud vereist dat makers openbaar maken wanneer inhoud die ‘realistisch’ is, is gemaakt met gewijzigde of synthetische media, inclusief generatieve AI. Makers hoeven niet openbaar te maken wanneer generatieve AI wordt gebruikt om inhoud te creëren die duidelijk onrealistisch is, inclusief animatievideo’s en video’s met speciale effecten.
YouTube zei dat het actief werkt aan het ontwikkelen van labels voor YouTube Kids.
In haar brief betoogt Fairplay dat het beleid inzake vrijwillige openbaarmaking en wat zij ziet als een ‘extreem beperkte’ definitie van gewijzigde en synthetische inhoud ervoor zorgen dat kinderen nog steeds een stortvloed aan door AI gegenereerde video’s zien die niet als zodanig zijn geëtiketteerd. Ze stellen ook dat veel kinderen die YouTube-video’s bekijken, nog niet in staat zijn om zoiets als een AI-onthulling te lezen of te begrijpen. Dat laat kinderen “aan hun lot over of hun ouders om molletje te spelen”, staat in de brief.
De campagne van Fairplay komt kort nadat het AI Futures Fund van Google $ 1 miljoen heeft geïnvesteerd in Animaj, een AI-animatiestudio die video’s voor kinderen maakt en volgens Bloomberg verbluffend hoge kijkcijfers trekt.
De campagne volgt op a monumentaal vonnis in een verslavingszaak op sociale media waarin een jury uit Californië ontdekte dat YouTube zijn platform heeft ontworpen om jonge gebruikers te boeien zonder zich zorgen te hoeven maken over hun welzijn. Ook Meta werd aansprakelijk bevonden op dezelfde punten als YouTube in dezelfde zaak.
“Het pushen van AI-slop naar jonge kinderen is slechts een bewijs van hoe YouTube en YouTube Kids zijn ontworpen om de tijd van kinderen online te maximaliseren, inclusief baby’s. AI-slop hypnotiseert jonge kinderen, waardoor het moeilijk voor hen wordt om van hun scherm af te komen en zich te richten op essentiële activiteiten zoals spelen, slapen en sociale interactie”, zegt Rachel Franz, directeur van Fairplay’s Young Children Thrive Offline-programma, in een verklaring. “Bovendien maakt het algoritme van YouTube het voor kinderen onmogelijk om AI-slop te vermijden.”
Eerder dit jaar noemde YouTube-hoofd Mohan “het beheren van AI-slop” als een van de prioriteiten van het bedrijf voor 2026. In een blogpost van januari schreef hij dat het bedrijf “actief voortbouwde op onze gevestigde systemen die zeer succesvol zijn geweest in het bestrijden van spam en clickbait, en het verminderen van de verspreiding van repetitieve inhoud van lage kwaliteit.”
—Kaitlyn Huamani, AP-technologieschrijver
