China stelt nieuwe, strengere regels op AI regelgeving die het land op weg zou kunnen zetten om de eerste te worden die de emotionele gevolgen van chatbotgenoten reguleert.
Gedetailleerd in een nieuw conceptvoorstel geschreven door de Chinese Cyberspace Administration en vertaald door CNBCzou het beleid toestemming van de voogd vereisen voor minderjarigen om met chatbot-metgezellen in contact te komen, evenals een uitgebreide leeftijdsverificatie. AI-chatbots mogen geen gokgerelateerde, obscene of gewelddadige inhoud genereren, of deelnemen aan gesprekken over zelfmoord, zelfbeschadiging of andere onderwerpen die de geestelijke gezondheid van een gebruiker kunnen schaden. Bovendien moeten technische ‘aanbieders’ escalatieprotocollen instellen die menselijke moderators verbinden met gebruikers in nood en risicovolle gesprekken signaleren aan voogden.
Chinese toezichthouders zeggen dat het doel is om niet alleen te focussen op de veiligheid van de inhoud, maar ook op de emotionele veiligheid, inclusief het monitoren van chats op emotionele afhankelijkheid en verslaving.
Mashbare lichtsnelheid
Het is een van de eerste wetten die specifiek zijn ontworpen om antropomorfe AI-tools te controleren, zeggen experts. Daartoe zullen de regels van toepassing zijn op elke AI-tool die is ontworpen om “de menselijke persoonlijkheid te simuleren en gebruikers emotioneel te betrekken via tekst, afbeeldingen, audio of video”, meldt CNBC.
De door China voorgestelde regels weerspiegelen verschillende bepalingen in a heeft onlangs de Californische AI-wet aangenomenbekend als SB 243, ondertekend door gouverneur Gavin Newsom in oktober. De wet vereist strengere inhoudsbeperkingen, herinneringen aan gebruikers dat ze met een niet-menselijke AI praten, en noodprotocollen voor discussies over zelfmoord. Sommige deskundigen hebben het wetsvoorstel bekritiseerd omdat het niet ver genoeg gaat om kleine gebruikers te beschermen, waardoor er ruimte overblijft voor technologiebedrijven om toezicht te ontwijken.
Ondertussen heeft de regering-Trump dat wel gedaan verdere AI-regulering tot stilstand gekomen op staatsniveau ten gunste van een ‘nationaal raamwerk voor AI-veiligheid’. Het uitvoerend bevel houdt in federale infrastructuurfinanciering van staten die het AI-toezicht versterken. Federale leiders betogen dat toenemende regulering van AI de binnenlandse innovatie zal tegenhouden en de VS achter China zal plaatsen in de waargenomen mondiale AI-race.
