Open AI staat onder intense juridische en publieke druk om de manier te verbeteren waarop zijn vlaggenschip AI-product ChatGPT reageert wanneer een gebruiker suïcidale gevoelens uit.
Donderdag lanceerde het bedrijf een functie genaamd Trusted Contact, waarmee gebruikers een volwassene kunnen aanwijzen die op de hoogte wordt gesteld als de gebruiker op een ernstige of zorgwekkende manier over zelfbeschadiging of zelfmoord praat.
De optionele functie moedigt de vertrouwde contactpersoon alleen aan om contact op te nemen met de gebruiker. Het deelt geen chattranscripties of gespreksdetails.
“Ons doel is ervoor te zorgen dat AI-systemen niet geïsoleerd bestaan”, aldus het bedrijf in een verklaring blogpost waarin de functie wordt aangekondigd. “In plaats daarvan zouden ze mensen moeten helpen verbinding te maken met de zorg, relaties en middelen in de echte wereld die er het meest toe doen.”
OpenAI is meerdere keren aangeklaagd wegens onrechtmatige dood door familieleden van ChatGPT-gebruikers die door zelfmoord zijn omgekomen nadat ChatGPT hen naar verluidt had gecoacht om een einde aan hun leven te maken of niet op passende wijze had gereageerd op hun discussies over psychische problemen. OpenAI heeft ontkende de beschuldigingen in de eerste van die rechtszaken.
Mashable trendrapport
Een aangewezen vertrouwd contact ontvangt een dergelijke uitnodiging van ChatGPT.
Krediet: met dank aan OpenAI
De staat Florida wel onderzoekt ook de links van ChatGPT tot ‘crimineel gedrag’, inclusief het ‘aanmoedigen van zelfmoord en zelfbeschadiging’.
Trusted Contact is ontwikkeld met feedback van onder meer experts OpenAI’s Expert Council on Well-Being en AI en de Amerikaanse Psychologische Vereniging.
“Mensen helpen vooraf een vertrouwde persoon te identificeren, terwijl hun keuze en autonomie behouden blijven, kan het gemakkelijker maken om steun uit de echte wereld te bereiken wanneer dat er het meest toe doet,” Dr. Arthur Evans, CEO van de American Psychological Association, zei in een verklaring.
Hoe het vertrouwde contact van ChatGPT werkt
-
Gebruikers kunnen het Trusted Contact-proces starten door op hun ChatGPT-instellingen te klikken.
-
Er kan één volwassene van 18 jaar of ouder worden toegevoegd via het Trusted Contact-formulier.
-
De contactpersoon heeft geen ChatGPT-account nodig.
-
De aangewezen contactpersoon ontvangt een uitnodiging van OpenAI waarin zijn rol als vertrouwd contact wordt uitgelegd. Ze moeten de uitnodiging binnen een week accepteren om de functie te activeren. De contactpersoon kan zijn telefoonnummer of e-mailadres delen als contactmethode. Mocht de persoon weigeren, dan kan de gebruiker een andere volwassene toevoegen.
-
Wanneer de geautomatiseerde monitoringsystemen van OpenAI een discussie over zelfbeschadiging detecteren of een ernstig veiligheidsprobleem aangeven, waarschuwt ChatGPT de gebruiker dat het bedrijf zijn vertrouwde contactpersoon op de hoogte kan stellen. De gebruikersprompt moedigt contact met de vertrouwde contactpersoon aan en biedt gespreksstarters.
-
Het veiligheidsprobleem wordt vervolgens beoordeeld door wat OpenAI beschrijft als een ‘klein team van speciaal opgeleide mensen’. Wanneer de menselijke reviewers een mogelijk ernstig veiligheidsprobleem bevestigen, stuurt ChatGPT het vertrouwde contact een korte e-mail of sms. Als de persoon een ChatGPT-account heeft, ontvangt deze een in-app-melding.
-
De melding bevat geen details over de discussie van de gebruiker. In plaats daarvan informeert het de vertrouwde contactpersoon dat de gebruiker zelfbeschadiging heeft genoemd en moedigt het de contactpersoon aan om contact op te nemen. Het bericht bevat een link naar richtlijnen voor het voeren van gevoelige gesprekken.
-
Gebruikers zijn te allen tijde vrij om hun vertrouwde contact te verwijderen of te bewerken. Het vertrouwde contact kan zichzelf ook verwijderen via het helpcentrum van ChatGPT.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april 2025 een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt de 988 Suicide & Crisis Lifeline bellen of sms’en op 988, of chatten op 988lifeline.org. U kunt de Trans Lifeline bereiken door te bellen naar 877-565-8860 of het Trevor Project op 866-488-7386. Sms ‘START’ naar de crisistekstlijn op 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10:00 uur tot 22:00 uur ET, of stuur een e-mail (e-mail beveiligd). Als je de telefoon niet leuk vindt, overweeg dan om de 988 Suicide and Crisis Lifeline Chat te gebruiken. Hier is een lijst met internationale bronnen.
