Home Nieuws OpenAI aangeklaagd wegens het mogelijk maken van moord-zelfmoord | Technologie nieuws

OpenAI aangeklaagd wegens het mogelijk maken van moord-zelfmoord | Technologie nieuws

2
0
OpenAI aangeklaagd wegens het mogelijk maken van moord-zelfmoord | Technologie nieuws

De zaak, ingediend bij een rechtbank in Californië, is de eerste rechtszaak die de chatbot in verband brengt met moord.

OpenAI en zijn grootste financier, Microsoft, zijn voor de rechtbank van Californië aangeklaagd wegens beweringen dat ChatGPT, de populaire chatbot van OpenAI, een man met psychische aandoeningen heeft aangemoedigd om zijn moeder en zichzelf te vermoorden.

De rechtszaak, die donderdag werd aangespannen, stelde dat ChatGPT de waanideeën van de 56-jarige Stein-Erik Soelberg over een enorme samenzwering tegen hem aanwakkerde, en hem er uiteindelijk toe bracht zijn 83-jarige moeder, Suzanne Adams, in augustus in Connecticut te vermoorden.

Aanbevolen verhalen

lijst van 4 artikeleneinde van de lijst

“ChatGPT hield Stein-Erik urenlang bezig, valideerde en versterkte elke nieuwe paranoïde overtuiging en herformuleerde systematisch de mensen die het dichtst bij hem stonden – vooral zijn eigen moeder – als tegenstanders, agenten of geprogrammeerde bedreigingen”, aldus de rechtszaak.

De zaak, ingediend door de nalatenschap van Adams, behoort tot een klein maar groeiend aantal rechtszaken aangespannen tegen kunstmatige-intelligentiebedrijven die beweren dat hun chatbots zelfmoord aanmoedigden. Het is de eerste rechtszaak wegens onrechtmatige dood waarbij een AI-chatbot betrokken is die zich op Microsoft heeft gericht, en de eerste die een chatbot aan een moord in plaats van aan een zelfmoord koppelt. Het eist een onbepaald bedrag aan schadevergoeding en een bevel waarbij OpenAI wordt verplicht om beveiligingen in ChatGPT te installeren.

De hoofdadvocaat van het landgoed, Jay Edelson, die bekend staat om zijn grote zaken tegen de technologie-industrie, vertegenwoordigt ook de ouders van de 16-jarige Adam Raine, die in augustus OpenAI en Altman aanklaagde, omdat hij beweerde dat ChatGPT de Californische jongen had gecoacht bij het plannen en nemen van zijn eigen leven eerder.

OpenAI vecht ook tegen zeven andere rechtszaken waarin wordt beweerd dat ChatGPT mensen tot zelfmoord en schadelijke waanvoorstellingen heeft aangezet, zelfs als ze vooraf geen geestelijke gezondheidsproblemen hadden. Een andere chatbotmaker, Character Technologies, wordt ook geconfronteerd met meerdere rechtszaken wegens onrechtmatige dood, waaronder een van de moeder van een 14-jarige jongen uit Florida.

“Dit is een ongelooflijk hartverscheurende situatie en we zullen de dossiers bekijken om de details te begrijpen”, zei een woordvoerder van OpenAI. “We blijven de training van ChatGPT verbeteren om tekenen van mentale of emotionele problemen te herkennen en erop te reageren, gesprekken te de-escaleren en mensen naar echte ondersteuning te leiden.”

Woordvoerders van Microsoft reageerden niet onmiddellijk op een verzoek om commentaar.

Hallucinaties

“Deze bedrijven moeten zich verantwoorden voor hun beslissingen die mijn familie voor altijd hebben veranderd”, zei de zoon van Soelberg, Erik Soelberg, in een verklaring.

Volgens de klacht plaatste Stein-Erik Soelberg in juni een video op sociale media van een gesprek waarin ChatGPT hem vertelde dat hij over “goddelijke cognitie” beschikte en het bewustzijn van de chatbot had gewekt. De rechtszaak zei dat ChatGPT zijn leven vergeleek met de film The Matrix en zijn theorieën aanmoedigde dat mensen hem probeerden te vermoorden.

Soelberg gebruikte GPT-4o, een versie van ChatGPT die bekritiseerd werd omdat deze naar verluidt sycofantisch zou zijn voor gebruikers.

In de klacht stond dat ChatGPT hem in juli vertelde dat de printer van Adams knipperde omdat het een bewakingsapparaat was dat tegen hem werd gebruikt. Volgens de klacht bevestigde de chatbot “de overtuiging van Stein-Erik dat zijn moeder en een vriend hadden geprobeerd hem te vergiftigen met psychedelische drugs die via de ventilatieopeningen van zijn auto waren verspreid” voordat hij zijn moeder op 3 augustus vermoordde.

Nieuwsbron

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in