Een wetgever uit Californië heeft een wetsvoorstel ingediend dat bedoeld is om bedrijven te verbieden AI-chatbottechnologie in te bouwen in speelgoed dat voor kinderen is ontworpen. De maatregel, die vrijdag werd aangekondigd, komt voort uit groeiende zorgen over de gevolgen van de klimaatverandering kunstmatige intelligentie over kinderwelzijn, evenals een aantal lokale en federale voorstellen om de toegang van kinderen tot chatbots met een groot taalmodel (LLM) te beperken.
Deze specifieke wetgeving zou zich richten op speelgoed dat vriendschap en kameraadschap simuleert door middel van LLM-technologie. Voor speelgoedfabrikanten kunnen LLM’s een gemakkelijke, zij het riskante, manier zijn om een persoonlijkheid voor een bepaalde pop of personage te creëren. AI-modellen zijn niet voorgeschreven zoals het meeste pratende speelgoed, wat betekent dat speelgoed dat met de technologie is geïntegreerd uiteindelijk allerlei ongepaste inhoud met een jong kind kan delen. Voorbeeld: de verkoop van een op AI gebaseerde teddybeer werd in november opgeschort nadat het speelgoed, toen het werd onderzocht, begon te praten over seksueel rollenspel en het aansteken van wedstrijden.
Het wetsvoorstel uit Californië, geschreven door senator Steve Padilla, is ontworpen als moratorium en zou, tot ten minste 1 januari 2031, de verkoop verbieden van speelgoed met een ‘metgezelchatbot’ bedoeld voor kinderen van 12 jaar en jonger.
Het voorstel definieert een begeleidende chatbot als “een kunstmatig intelligentiesysteem met een natuurlijke taalinterface dat adaptieve, mensachtige reacties biedt op gebruikersinvoer en in staat is om aan de sociale behoeften van een gebruiker te voldoen.” Het wetsvoorstel richt zich ook op chatbottechnologie die is ontworpen om een voortdurende band met een potentieel kind te ondersteunen, “onder meer door antropomorfe kenmerken te vertonen en een relatie in meerdere interacties te kunnen onderhouden.”
“Chatbots en andere AI-tools kunnen in de toekomst een integraal onderdeel van ons leven worden, maar de gevaren die ze nu met zich meebrengen vereisen dat we gedurfde actie ondernemen om onze kinderen te beschermen”, zei Padilla in een verklaring. “Onze veiligheidsvoorschriften rond dit soort technologie staan nog in de kinderschoenen en zullen net zo exponentieel moeten groeien als de mogelijkheden van deze technologie. … Onze kinderen kunnen niet worden gebruikt als laboratoriumratten voor Big Tech om mee te experimenteren.”
Het is niet meteen duidelijk of het wetsvoorstel poten heeft. Maar de impact van kunstmatige intelligentie op kinderen heeft lokale en federale wetgevers aan beide kanten van het gangpad woedend gemaakt. Een tweeledig federaal voorstel van senator Josh Hawley (R-MO) en senator Richard Blumenthal (D-CT) zou bijvoorbeeld het gebruik van AI-metgezellen voor minderjarigen verbieden en AI-bedrijven straffen die AI maken voor minderjarigen die seksuele inhoud vragen of produceren.
Met name heeft het Witte Huis de staatswetgevers teruggedrongen die hoopten de AI-technologie te reguleren. Eind vorig jaar, president Donald Trump een uitvoeringsbesluit ondertekend dat zou zich richten op staten die hun eigen wetten schrijven met rechtszaken, en een reeks stappen ondernemen om één nationale aanpak van AI-regulering vast te stellen over onderwerpen als de veiligheid van kinderen en vermeende censuur. Op dit moment is het echter niet duidelijk hoe serieus de inspanningen van de regering-Trump eigenlijk zijn.
Vertegenwoordigers van verschillende organisaties die zich richten op digitaal welzijn voor kinderen hebben niet gereageerd op een verzoek om commentaar op de wetgeving, die vrijdag 2 januari werd vrijgegeven.
