OpenAI-baas Sam Altman heeft zijn excuses aangeboden aan een Canadese gemeenschap omdat hij de autoriteiten niet heeft gewaarschuwd voor een verbod ChatGPT-account gelinkt aan een tiener die vervolgens een massaschietpartij pleegde.
Jesse Van Rootselaar, die stierf aan een zelf toegebrachte schotwond tijdens de aanval in januari, doodde acht mensen en verwondde tientallen anderen in Tumbler Ridge, British Columbia.
OpenAI zei dat het het ChatGPT-account van de 18-jarige Van Rootselaar had verboden vanwege problematisch gebruik, maar verwees de zaak niet naar de politie omdat het niet voldeed aan de drempel van een geloofwaardig of dreigend plan voor ernstig lichamelijk letsel aan anderen.
Altman zei dat het hem ‘diep spijt’ had in een brief ‘aan de gemeenschap van Tumbler Ridge’, die volledig werd gepubliceerd door een lokale nieuwswebsite.
“De pijn die jullie gemeenschap heeft moeten doorstaan is onvoorstelbaar. Ik heb de afgelopen maanden vaak aan jullie gedacht”, schreef Altman.
“Toen ik met burgemeester Krakowka en premier Eby over deze tragedie sprak, brachten ze de woede, het verdriet en de bezorgdheid over die overal in Tumbler Ridge werd gevoeld”, vervolgde hij. “We waren het erover eens dat een publieke verontschuldiging nodig was, maar dat er ook tijd nodig was om de gemeenschap te respecteren terwijl je rouwde. Ik deel deze brief met dien verstande dat iedereen op zijn eigen manier en in zijn eigen tijd rouwt.”
Altman schreef dat hij zich “iets ergers” kon voorstellen dan het verliezen van een kind. “Mijn hart blijft bij de slachtoffers, hun families, alle leden van de gemeenschap en de provincie British Columbia.”
Hij schreef dat zijn bedrijf in de toekomst met alle overheidsniveaus zou samenwerken om ervoor te zorgen dat “zoiets” nooit meer zou gebeuren.
De beroemde sycophantische persoonlijkheid van ChatGPT heeft sommige gebruikers op duistere paden geleid, waardoor OpenAI heeft herzien hoe de chatbot zich gedraagt wanneer hem wordt gevraagd naar gevoelige onderwerpen zoals depressie.
Open AI is geconfronteerd met een lopende rechtszaak ingediend door de ouders van de 16-jarige Adam Raine. De rechtszaak beweert dat ChatGPT Raine “actief heeft geholpen” bij het onderzoeken van zelfmoordmethoden gedurende enkele maanden voordat hij stierf. OpenAI vertelde Business Insider eerder dat het bedroefd was door de dood van Raine en dat ChatGPT veiligheidsmaatregelen bevat.
OpenAI zei vorig jaar dat het samenwerkte met professionals in de geestelijke gezondheidszorg om de situatie te verbeteren hoe ChatGPT reageert voor gebruikers die tekenen vertonen van psychose of manie, zelfbeschadiging of zelfmoord, of emotionele gehechtheid aan de chatbot.
