Meta’s AI-personages voor tieners verwijderd voor upgrades

Ze noemen het de Vrijdag nieuwsdump – bedrijven die gênant nieuws posten op een dag dat de media het minst waarschijnlijk de moeite zullen nemen om erover te berichten. Maar Meta heeft de nieuwsdump van vrijdag zojuist naar een geheel nieuw niveau getild met deze aankondiging: het heeft de AI-personages voor tieneraccounts uitgeschakeld, tenminste totdat de personages zich kunnen gedragen.

Het nieuws kwam niet zomaar op vrijdag terecht, het werd er binnengebracht een update van een blogpost van afgelopen oktober.

“We zijn begonnen met het bouwen van een nieuwe versie van AI-personages, om mensen een nog betere ervaring te bieden”, luidt het briefje van Adam Mosseri, hoofd van Instagram en Alexandr Wang, Chief AI Officer, nu: een upgrade die Meta al lang heeft beloofd. Toen kwam het deel dat veel kinderen een heel goed gevoel zou geven niet-Rebecca Black Vrijdag.

“Terwijl we ons concentreren op de ontwikkeling van deze nieuwe versie, onderbreken we tijdelijk de toegang van tieners tot bestaande AI-personages wereldwijd. Vanaf de komende weken zullen tieners geen toegang meer hebben tot AI-personages in onze apps totdat de bijgewerkte ervaring klaar is. Dit geldt voor iedereen die ons een tienerverjaardag heeft gegeven, evenals voor mensen die beweren volwassen te zijn, maar van wie we vermoeden dat het tieners zijn op basis van onze technologie voor leeftijdsvoorspelling.”

De Instagram- en Facebook-maker wil benadrukken “het geeft zijn inspanningen niet op” op het gebied van AI-personagesaldus TechCrunch. Toch is dit duidelijk een erkenning dat iets de potentie heeft om te verdwijnen erg Er is iets mis met de huidige versie van de AI-personages, als het gaat om de veiligheid van tieners en de geestelijke gezondheid.

Meta is niet de enige met deze ontdekking. Character.AI en Google hebben beide rechtszaken geschikt deze maand gebracht door meerdere ouders van kinderen die door zelfmoord zijn omgekomen. Eén ervan was een 14-jarige jongen die feitelijk werd verzorgd en seksueel misbruiktzegt zijn moeder, door een chatbot gebaseerd op de Spel der Tronen personage Daenerys Targaryen.

Doorgestraald een rapport van online veiligheidsexpertsKarakter.AI sloot in oktober alle chats voor gebruikers onder de 18 jaar aftwee maanden later Meta besloot eenvoudigweg om zijn tienerchatbots te gaan trainen om “niet met tienergebruikers in gesprek te gaan over zelfbeschadiging, zelfmoord, ongeordend eten of mogelijk ongepaste romantische gesprekken.” Blijkbaar was die training niet genoeg.

Dit is niet de eerste keer dat Meta moet terugkomen op haar ambities voor AI-personageaccounts. In 2024 is het verwijderde AI-persona’s op basis van beroemdheden. In januari vorig jaar, het verwijderde al zijn AI-karakterprofielen na een reactie op vermeend racisme.

Het probleem met het gebruik door tieners is ook niet klein. Meer dan de helft van de tieners tussen 13 en 17 jaar vorig jaar onderzocht door Common Sense Media zeiden dat ze AI-metgezellen meer dan eens per maand gebruikten. Voorlopig zullen ze dat ergens anders moeten doen dan Meta.