Meta geeft ouders meer inzicht in hoe hun tieners AI op zijn platforms gebruiken. De zei het bedrijf donderdag dat ouders kunnen leren over welke onderwerpen hun kinderen AI de afgelopen week hebben gevraagd op Facebook, Messenger of Instagram – apps die eigendom zijn van het door Mark Zuckerberg gerunde bedrijf.
Hoewel deze stap bedoeld is om de veiligheid van kinderen op populaire sociale platforms te ondersteunen, zeggen experts dat het geen vervanging is voor goede contentmoderatie en een veilig ontwerp, en waarschuwen ze dat dit onbedoelde gevolgen kan hebben doordat de privacy van tieners wordt beperkt.
De nieuwe functie heet AI Insights en is nu beschikbaar voor ouders die toezicht houden op tieneraccounts in de VS, het VK, Australië, Canada en Brazilië. Meta zal AI Insights de komende weken wereldwijd uitrollen. Tieneraccounts zijn speciaal ontworpen ervaringen voor tieners op de platforms met strengere standaardprivacy- en inhoudsinstellingen.
Insights volgt op andere waarborgen die Meta voor ouders en kinderen heeft geïntroduceerd met betrekking tot hun gebruik van AI. In oktober zei het bedrijf ouders kan voorkomen dat kinderen interactie hebben met chatbot-personages of specifieke karakters blokkeren. Een personage is een fictief wezen gecreëerd door AI.
Zuckerberg en zijn bedrijf zijn de afgelopen jaren over de schreef gegaan als het gaat om de geestelijke gezondheid van kinderen. Vorige maand was Meta dat ook veroordeeld tot het betalen van $ 375 miljoen nadat hij aansprakelijk was bevonden in een kinderuitbuitingszaak en dat ook was aansprakelijk bevonden in een zaak in Californië waarin een vrouw beweerde dat Instagram en YouTube bedoeld waren verslavend voor kinderen.
Een vertegenwoordiger van Meta reageerde niet onmiddellijk op een verzoek om commentaar.
Meer dan 40 Amerikaanse staten heeft in 2023 rechtszaken aangespannen tegen Metawaarin wordt beweerd dat het bedrijf kinderen probeert te verslaafden aan zijn apps en zo bijdraagt aan een geestelijke gezondheidscrisis onder jongeren.
Inzichten gebruiken
Als ouders toezicht voor hun kinderen gebruiken op Facebook, Messenger of Instagram, zien ze nu een tabblad met de naam ‘Insights’, zowel in de apps zelf als op internet.
(Ouders kunnen supervisie inschakelen in Meta’s Family Center – het proces wordt hier gedetailleerd beschreven – voor hun kinderen van 13 tot 17 jaar die tieneraccounts gebruiken.)
Nadat ze op het tabblad Inzichten hebben geklikt, kunnen ouders zien welke onderwerpen hun kinderen hebben gevraagd Meta-AI over de afgelopen zeven dagen. Het bedrijf zei dat deze onderwerpen onder meer school, entertainment, levensstijl, reizen, schrijven, gezondheid en andere kunnen omvatten.
Er zijn ook categorieën binnen elk onderwerp: mode, eten en vakanties in levensstijl en fitness, lichamelijke gezondheid en geestelijke gezondheid in het onderwerp gezondheid en welzijn. Wanneer ouders op onderwerpen klikken, kunnen ze de categorieën zien waarover hun kinderen Meta AI hebben gevraagd.
Als tieners AI op Instagram vragen naar zelfmoord of zelfbeschadiging, worden ouders gewaarschuwd, een functie van het bedrijf februari toegevoegd.
Meta zei dat ook, in samenwerking met de Onderzoekscentrum voor cyberpestenhet heeft zich ontwikkeld 11 gespreksstarters voor ouders om met hun kinderen over AI te praten. Ouders kunnen deze raadplegen via een link op het tabblad Inzichten.
In haar nieuwsaankondiging op donderdag zei Meta dat het probeert “ouderlijk toezicht nog waardevoller te maken voor ouders”. Het bedrijf zei dat het aantal Amerikaanse tieners dat zich inschrijft voor toezicht het afgelopen jaar is verdubbeld.
Toezicht door ouders kan schadelijk zijn
De functie verschuift de verantwoordelijkheid voor het modereren van inhoud naar de ouders, maar het kan ook schadelijk zijn voor kinderen in mogelijk gewelddadige gezinsomgevingen door ouders een surveillance-instrument te geven, zei Ardath Whynachtuniversitair hoofddocent sociologie aan de Mount Allison University in New Brunswick, Canada, gespecialiseerd in geestelijke gezondheid en huiselijk geweld.
“Ouderlijk toezicht is geen inhoudsmoderatie”, vertelde Whynacht aan CNET. “Omdat bedrijven als Meta minder inhoud modereren, stellen ze kinderen en jongeren vaker bloot aan schade. Het zou niet de taak van de ouders moeten zijn om het product minder schadelijk te maken.”
Whynacht, die in gevangenissen heeft gewerkt en met jongeren met stemmingsstoornissen en psychoses, zei dat queer- en transjongeren het meest te lijden zouden kunnen hebben onder toezicht van ouders.
“Velen wenden zich tot digitale ruimtes om steun te vinden”, zei Whynacht. “Angst voor ouderlijk toezicht zou kinderen in nog onveiliger hoeken van het internet kunnen dwingen.”
“Het is een triest feit dat kinderen vaak net zoveel bescherming nodig hebben van hun ouders als bescherming tegen online schade”, voegde ze eraan toe.
Er is meer nodig om kinderen te beschermen
Meta’s nieuwe functie is een “stap in de goede richting”, maar lang niet voldoende bescherming, zegt Donna Rice Hughes, CEO van de online kinderveiligheidsorganisatie Genoeg is genoegvertelde CNET.
“Meta is niet te vertrouwen als het gaat om de veiligheid van tieners en blijft winst boven veiligheid stellen”, zei Hughes, wijzend op de bedrijfsstrategie van het bedrijf. lobby-inspanningen om de Kids Online Safety Act in het Amerikaanse Huis van Afgevaardigden in 2024 af te schaffen.
Hughes zei dat ouders gebruik moeten maken van alle beschikbare online ouderlijk toezicht, zoals Meta’s nieuwe Insights-functie, maar ook regelmatig met hun kinderen moeten praten over online veiligheid. En controletools zouden robuuster en effectiever moeten zijn en door alle Big Tech moeten worden geïmplementeerd, niet alleen door Meta. “Ouders kunnen deze last simpelweg niet alleen blijven dragen”, zei Hughes.
