OpenAI en zijn grootste financier, Microsoft, zijn donderdag voor de rechtbank van Californië aangeklaagd wegens beweringen dat OpenAI’s populaire chatbot ChatGPT een geesteszieke man ertoe aanzette zijn moeder en zichzelf te vermoorden.
De rechtszaak zei dat ChatGPT de waanideeën van de 56-jarige Stein-Erik Soelberg over een enorme samenzwering tegen hem aanwakkerde en hem er uiteindelijk toe bracht zijn 83-jarige moeder, Suzanne Adams, in augustus in Connecticut te vermoorden.
“ChatGPT hield Stein-Erik urenlang bezig, valideerde en versterkte elke nieuwe paranoïde overtuiging en herformuleerde systematisch de mensen die het dichtst bij hem stonden – vooral zijn eigen moeder – als tegenstanders, agenten of geprogrammeerde bedreigingen”, aldus de rechtszaak.
De zaak, ingediend door de nalatenschap van Adams, maakt deel uit van een klein maar groeiend aantal rechtszaken die zijn aangespannen tegen kunstmatige-intelligentiebedrijven die beweren dat hun chatbots zelfmoord aanmoedigden. Het is de eerste die een AI-chatbot aan een moord koppelt.
“Dit is een ongelooflijk hartverscheurende situatie en we zullen de dossiers bekijken om de details te begrijpen”, zei een woordvoerder van OpenAI. “We blijven de training van ChatGPT verbeteren om tekenen van mentale of emotionele problemen te herkennen en erop te reageren, gesprekken te de-escaleren en mensen naar echte ondersteuning te leiden.”
Woordvoerders van Microsoft reageerden niet onmiddellijk op een verzoek om commentaar.
‘Deze bedrijven moeten zich verantwoorden voor hun beslissingen die mijn familie voor altijd hebben veranderd’, zei de zoon van Soelberg, Erik Soelberg, in een verklaring.
Volgens de klacht plaatste Stein-Erik Soelberg in juni een video op sociale media van een gesprek waarin ChatGPT hem vertelde dat hij over “goddelijke cognitie” beschikte en het bewustzijn van de chatbot had gewekt. De rechtszaak zei dat ChatGPT zijn leven vergeleek met de film “The Matrix” en zijn theorieën aanmoedigde dat mensen hem probeerden te vermoorden.
Soelberg gebruikte GPT-4o, een versie van ChatGPT die bekritiseerd werd omdat deze naar verluidt sycofantisch zou zijn voor gebruikers.
In de klacht stond dat ChatGPT hem in juli vertelde dat de printer van Adams knipperde omdat het een bewakingsapparaat was dat tegen hem werd gebruikt. Volgens de klacht bevestigde de chatbot “de overtuiging van Stein-Erik dat zijn moeder en een vriend hadden geprobeerd hem te vergiftigen met psychedelische drugs die via de ventilatieopeningen van zijn auto waren verspreid” voordat hij zijn moeder op 3 augustus vermoordde.
(Behalve de kop is dit verhaal niet geredigeerd door NDTV-medewerkers en wordt het gepubliceerd via een gesyndiceerde feed.)
