OpenAI heeft de afgelopen maanden te maken gehad met enorme druk om tegemoet te komen aan de zorgen dat zijn vlaggenschipproduct, ChatGPTis onveilig voor tieners.
De AI-chatbot vormt de kern van meerdere onrechtmatige doodszaken bewerend dat het tieners coachte om zelfmoord te plegen of niet op passende wijze reageerde op hun suïcidale gevoelens. A aankondiging van de openbare dienst heeft onlangs een aantal van deze uitwisselingen afgebeeld, waarbij hij de chatbots voorstelde als griezelige mensen die kinderen kwaad doen. OpenAI heeft de beschuldigingen ontkend in één geval – de zelfmoorddood van de 16-jarige Adam Raine.
Donderdag publiceerde OpenAI een blogpost over de escalerende veiligheidsinspanningen en beloofde “de veiligheid van tieners voorop te stellen, zelfs als dit in strijd zou kunnen zijn met andere doelen.”
Het bericht introduceerde een update van de modelspecificatiedat aangeeft hoe de AI-modellen zich moeten gedragen. Een nieuwe reeks principes voor gebruikers onder de 18 jaar zal vooral informatie verschaffen over hoe de modellen reageren in situaties met hoge inzet.
OpenAI zei dat de ChatGPT-update een “veilige, bij de leeftijd passende ervaring” moet bieden voor gebruikers tussen de 13 en 17 jaar door prioriteit te geven aan preventie, transparantie en vroegtijdige interventie.
“Dit betekent dat tieners sterkere vangrails, veiligere alternatieven en aanmoediging moeten tegenkomen om vertrouwde offline ondersteuning te zoeken wanneer gesprekken zich op een gebied met een hoger risico begeven”, aldus de post. ChatGPT is ontworpen om tieners aan te sporen contact op te nemen met de hulpdiensten of crisishulpbronnen wanneer zij een dreigend risico aantonen.
Mashbare lichtsnelheid
Wanneer gebruikers zich aanmelden als jonger dan 18 jaar, moeten de veiligheidsmaatregelen ervoor zorgen dat ChatGPT extra voorzichtig is bij het bespreken van onderwerpen als zelfbeschadiging, zelfmoord, romantische of geseksualiseerde rollenspellen, of het bewaren van geheimen over gevaarlijk gedrag, aldus het bedrijf.
De American Psychological Association heeft OpenAI feedback gegeven op een eerste versie van de principes voor jongeren onder de 18 jaar, aldus het bericht.
“Kinderen en adolescenten zouden baat kunnen hebben bij AI-instrumenten als ze in balans zijn met menselijke interacties waarvan de wetenschap aantoont dat ze van cruciaal belang zijn voor de sociale, psychologische, gedragsmatige en zelfs biologische ontwikkeling”, aldus Dr. Arthur C. Evans Jr., CEO van de American Psychological Association, in de post.
OpenAI biedt tieners en ouders ook twee nieuwe door experts doorgelichte AI-geletterdheidsgidsen. Het bedrijf zei dat het zich in de beginfase bevindt van de implementatie van een leeftijdsvoorspellingsmodel voor gebruikers met ChatGPT-consumentenabonnementen.
Experts op het gebied van kinderveiligheid en geestelijke gezondheid onlangs verklaarde AI-chatbots als onveilig voor tienerdiscussies over hun geestelijke gezondheid. Vorige week maakte OpenAI bekend dat het zijn nieuwste model, ChatGPT-5.2, is “veiliger” voor de geestelijke gezondheid.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt de 988 Suicide & Crisis Lifeline bellen of sms’en op 988, of chatten op 988lifeline.org. U kunt de Trans Lifeline bereiken door te bellen naar 877-565-8860 of het Trevor Project op 866-488-7386. Sms ‘START’ naar de crisistekstlijn op 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10:00 uur tot 22:00 uur ET, of stuur een e-mail (e-mail beveiligd). Als de telefoon je niet bevalt, overweeg dan om de 988 Zelfmoord- en crisislevenslijnchat. Hier is een lijst van internationale bronnen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.
