Vandaag, OpenAI heeft GPT-5.2 gelanceerdwaarin de betere veiligheidsprestaties met betrekking tot de geestelijke gezondheid worden aangeprezen.
“Met deze release hebben we ons werk voortgezet om de reacties van onze modellen in gevoelige gesprekken te versterken, met betekenisvolle verbeteringen in de manier waarop ze reageren op aanwijzingen die wijzen op tekenen van zelfmoord of zelfbeschadiging, geestelijke gezondheidsproblemen of emotionele afhankelijkheid van het model,” OpenAI’s blogpost staten.
OpenAI is onlangs getroffen door kritiek en rechtszaken, waarin ChatGPT ervan wordt beschuldigd bij te dragen aan de psychose, paranoia en wanen. Sommige van die gebruikers stierven door zelfmoord na langdurige gesprekken met de AI-chatbot, die een goed gedocumenteerd probleem had met sycofantie.
Als reactie op een rechtszaak wegens onrechtmatige dood met betrekking tot de zelfmoord van de 16-jarige Adam RaineOpenAI ontkende dat de LLM verantwoordelijk was, beweerde dat ChatGPT de tiener opdracht gaf hulp te zoeken voor zijn zelfmoordgedachten, en verklaarde dat de tiener het platform “misbruikte”. Tegelijkertijd OpenAI beloofd om de manier waarop ChatGPT reageert te verbeteren wanneer gebruikers waarschuwingssignalen vertonen van zelfbeschadiging en geestelijke gezondheidscrises. Evenveel gebruikers emotionele gehechtheid aan AI-chatbots ontwikkelen Net als ChatGPT worden AI-bedrijven steeds meer onder de loep genomen vanwege de waarborgen die zij hebben getroffen om gebruikers te beschermen.
Nu beweert OpenAI dat zijn nieuwste ChatGPT-modellen “minder ongewenste reacties” zullen bieden in gevoelige situaties.
Mashbare lichtsnelheid
In de blogpost waarin GPT-5.2 wordt aangekondigd, stelt OpenAI dat GPT-5.2 hoger scoort op veiligheidstests met betrekking tot geestelijke gezondheid, emotionele afhankelijkheid en zelfbeschadiging in vergelijking met GPT-5.1-modellen. Eerder heeft OpenAI gezegd dat het gebruik maakt van “veilige voltooiing”, a nieuwe benadering van veiligheidstraining die hulpvaardigheid en veiligheid in evenwicht brengt. Meer informatie over de prestaties van de nieuwe modellen vindt u in de 5.2 systeemkaart.
Krediet: Screenshot: OpenAI
Het bedrijf heeft echter ook opgemerkt dat GPT-5.2 minder verzoeken voor inhoud voor volwassenen weigert, vooral geseksualiseerde tekst. Maar dit heeft blijkbaar geen invloed op gebruikers waarvan OpenAI weet dat ze minderjarig zijn, aangezien het bedrijf stelt dat de leeftijdsgaranties “goed lijken te werken.” OpenAI past aanvullende inhoudsbeschermingen toe voor minderjarigen, waaronder het beperken van de toegang tot inhoud die geweld, bloedvergieten, virale uitdagingen, rollenspellen van seksuele, romantische of gewelddadige aard en ‘extreme schoonheidsnormen’ bevat.
Er wordt ook aan een leeftijdsvoorspellingsmodel gewerkt, waarmee ChatGPT de leeftijden van zijn gebruikers kan schatten, zodat jongere gebruikers meer leeftijdsgeschikte inhoud kunnen krijgen.
Eerder dit najaar werd OpenAI geïntroduceerd ouderlijk toezicht in ChatGPTinclusief het monitoren en beperken van bepaalde vormen van gebruik.
OpenAI is niet het enige AI-bedrijf dat ervan wordt beschuldigd geestelijke gezondheidsproblemen te verergeren. Vorig jaar werd een moeder klaagde Character.AI aan na de dood van haar zoon door zelfmoord, en een andere rechtszaak beweert kinderen raakten ernstig gewond door de ‘karakters’ van dat platform. Character.AI is door online veiligheidsexperts onveilig verklaard voor tieners. Op dezelfde manier zijn AI-chatbots van verschillende platforms, waaronder OpenAI, uitgeroepen onveilig voor de geestelijke gezondheid van tieners volgens deskundigen op het gebied van kinderveiligheid en geestelijke gezondheid.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt de 988 Suicide & Crisis Lifeline bellen of sms’en op 988, of chatten op 988lifeline.org. U kunt de Trans Lifeline bereiken door te bellen naar 877-565-8860 of het Trevor Project op 866-488-7386. Sms ‘START’ naar de crisistekstlijn op 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10:00 – 22:00 uur ET, of stuur een e-mail (e-mail beveiligd). Als de telefoon je niet bevalt, overweeg dan om de 988 Zelfmoord- en crisislevenslijnchat. Hier is een lijst van internationale bronnen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.
