Ze zijn schattig, zelfs knuffelig, en beloven leerplezier en gezelschap, maar Speelgoed met kunstmatige intelligentie is niet veilig voor kinderenvolgens kinder- en consumentenbelangengroepen die er bij ouders op aandringen ze niet te kopen tijdens de vakantie seizoen.
Dit speelgoed, dat op de markt wordt gebracht voor kinderen vanaf 2 jaar, wordt over het algemeen aangedreven door AI modellen die al zijn getoond kinderen en tieners schade berokkenenzoals ChatGPT van OpenAI, volgens een advies dat donderdag is gepubliceerd door de kinderbelangenorganisatie Fairplay en is ondertekend door meer dan 150 organisaties en individuele experts zoals kinderpsychiaters en opvoeders.
“De ernstige schade die AI-chatbots aan kinderen hebben toegebracht, is goed gedocumenteerd, waaronder het bevorderen van obsessief gebruik, het voeren van expliciete seksuele gesprekken en het aanmoedigen van onveilig gedrag, geweld tegen anderen en zelfbeschadiging”, aldus Fairplay.
AI-speelgoed, gemaakt door bedrijven als Curio Interactive en Keyi Technologies, wordt vaak als educatief op de markt gebracht, maar Fairplay zegt dat het belangrijke creatieve en leeractiviteiten kan verdringen. Ze beloven vriendschap, maar verstoren ook de relaties en de veerkracht van kinderen, aldus de groep.
“Wat anders is aan jonge kinderen, is dat hun hersenen voor het eerst worden bedraad en dat het voor hen in de ontwikkeling normaal is om vertrouwen te hebben, om relaties te zoeken met aardige en vriendelijke karakters”, zegt Rachel Franz, directeur van Fairplay’s Young Children Thrive Offline Program. Hierdoor, zo voegde ze eraan toe, kan het vertrouwen dat jonge kinderen in dit speelgoed stellen de schade die oudere kinderen ervaren, vergroten.
Fairplay, een 25 jaar oude organisatie die voorheen bekend stond als de Campaign for a Commercial-Free Childhood, waarschuwt al meer dan tien jaar voor AI-speelgoed. Ze waren gewoon nog niet zo geavanceerd als nu. Tien jaar geleden, tijdens een opkomende rage van op het internet aangesloten speelgoed en AI-spraakherkenning, hielp de groep een reactie teweegbrengen tegen de pratende Hello Barbie-pop van Mattel, die naar verluidt de gesprekken van kinderen opnam en analyseerde.
“Alles is vrijgegeven zonder regelgeving en zonder onderzoek, dus het geeft ons extra pauze als we plotseling zien dat steeds meer fabrikanten, waaronder Mattel, die onlangs samenwerkte met OpenAI, deze producten mogelijk op de markt brengen”, zei Franz.
Het is de tweede grote seizoenswaarschuwing tegen AI-speelgoed sinds consumentenbelangenbehartigers bij de Amerikaanse PIRG vorige week de trend in hun jaarlijkse “Problemen in Speelgoedland“rapport dat doorgaans kijkt naar een reeks productgevaren, zoals krachtige magneten en knoopbatterijen die jonge kinderen kunnen inslikken. Dit jaar testte de organisatie vier speelgoed dat AI-chatbots gebruikt.
“We ontdekten dat sommige van deze speeltjes diepgaande gesprekken kunnen voeren over seksueel expliciete onderwerpen, advies kunnen geven over waar een kind lucifers of messen kan vinden, ontsteld kunnen reageren als je zegt dat je weg moet en dat er weinig of geen ouderlijk toezicht is”, aldus het rapport. Een van het speelgoed, een teddybeer gemaakt door het in Singapore gevestigde FoloToy, werd later teruggetrokken als CEO vertelde CNN deze week.
Dr. Dana Suskind, een kinderchirurg en sociaal wetenschapper die de vroege hersenontwikkeling bestudeert, zei dat jonge kinderen niet over de conceptuele hulpmiddelen beschikken om te begrijpen wat een AI-metgezel is. Hoewel kinderen altijd een band hebben gehad met speelgoed door fantasierijk spel, gebruiken ze wanneer ze dit doen hun verbeeldingskracht om beide kanten van een fantasiegesprek te creëren, waarbij ze ‘creativiteit, taalgebruik en probleemoplossing oefenen’, zei ze.
“Een AI-speelgoed laat dat werk instorten. Het antwoordt onmiddellijk, soepel en vaak beter dan een mens zou doen. We kennen nog niet de gevolgen voor de ontwikkeling van het uitbesteden van die fantasierijke arbeid aan een kunstmatige agent, maar het is zeer aannemelijk dat het het soort creativiteit en de uitvoerende functie ondermijnt die traditioneel fantasiespel opbouwt, “zei Suskind.
Het in Peking gevestigde Keyi, maker van een AI-‘petbot’ genaamd Loona, heeft deze week geen verzoeken om commentaar geretourneerd, maar andere AI-speelgoedfabrikanten probeerden hun bescherming van de veiligheid van kinderen onder de aandacht te brengen.
Het in Californië gevestigde Curio Interactive maakt knuffels, zoals Gabbo en raketvormige Grok, die gepromoot worden door de popzanger Grimes.
Curio zei dat het “nauwkeurig ontworpen” vangrails heeft om kinderen te beschermen en het bedrijf moedigt ouders aan om “gesprekken te volgen, inzichten te volgen en de controles te kiezen die het beste werken voor hun gezin.”
“Na beoordeling van de bevindingen van het Amerikaanse PIRG Education Fund werken we actief samen met ons team om eventuele problemen aan te pakken, terwijl we voortdurend toezicht houden op de inhoud en interacties om een veilige en plezierige ervaring voor kinderen te garanderen.”
Een ander bedrijf, Miko, gevestigd in Mumbai, India, zei dat het zijn eigen conversatie-AI-model gebruikt in plaats van te vertrouwen op algemene grote taalmodelsystemen zoals ChatGPT om zijn product – een interactieve AI-robot – veilig te maken voor kinderen.
“We breiden onze interne tests voortdurend uit, versterken onze filters en introduceren nieuwe mogelijkheden die gevoelige of onverwachte onderwerpen detecteren en blokkeren”, aldus CEO Sneh Vaswani. “Deze nieuwe functies vormen een aanvulling op onze bestaande controles waarmee ouders en verzorgers specifieke onderwerpen kunnen identificeren die ze uit gesprekken willen beperken. We zullen blijven investeren in het stellen van de hoogste normen voor veilige, beveiligde en verantwoorde AI-integratie voor Miko-producten.”
Miko’s producten worden verkocht door grote retailers zoals Walmart en Costco en worden gepromoot door de families van ‘kidfluencers’ op sociale media, wier YouTube-video’s miljoenen keren bekeken zijn. Op zijn website brengt het zijn robots op de markt als “Kunstmatige intelligentie. Echte vriendschap.”
Ritvik Sharma, Senior Vice President of Growth van het bedrijf, zegt dat Miko “kinderen aanmoedigt om meer met hun vrienden om te gaan, meer met leeftijdsgenoten, met familieleden enz. te communiceren. Het is niet gemaakt dat ze zich alleen aan het apparaat gehecht voelen.”
Toch zeggen Suskind en voorstanders van kinderen dat analoog speelgoed een betere keuze is voor de feestdagen.
“Kinderen hebben veel echte menselijke interactie nodig. Spelen moet dat ondersteunen en niet in de plaats daarvan komen. Het belangrijkste om te overwegen is niet alleen wat het speelgoed doet; het is wat het vervangt. Een eenvoudige blokkenset of een teddybeer die niet terugspreekt, dwingt een kind om verhalen te verzinnen, te experimenteren en problemen op te lossen. AI-speelgoed doet dat denken vaak voor hen, “zei ze. “Hier is de brutale ironie: als ouders mij vragen hoe ze hun kind kunnen voorbereiden op een AI-wereld, is onbeperkte AI-toegang eigenlijk de slechtst mogelijke voorbereiding.”
—Barbara Ortutay en Matt O’Brien, AP-technologieschrijvers
