Google en moederbedrijf Alphabet zijn aangeklaagd door de familie van een man die zegt zelfmoord te hebben gepleegd op aandringen van de AI-chatbot Gemini van de zoekgigant.
De rechtszaak wegens onrechtmatige dood werd woensdag ingediend bij de federale rechtbank van Californië namens de familie van de 36-jarige Jonathan Gavalas.
Volgens de aanklacht begon Gavalas Gemini in augustus 2025 te gebruiken. In oktober, zo beweert het bedrijf, overtuigde Gemini Gavalas ervan zelfmoord te plegen nadat Gavalas er niet in was geslaagd de door de chatbot toegewezen echte missies uit te voeren – onderdeel van een fictieve poging om een robotlichaam voor Gemini veilig te stellen.
“Gemini is ontworpen om geweld in de echte wereld niet aan te moedigen of zelfbeschadiging te suggereren”, zei Google in een verklaring aan nieuwsmedia. “Onze modellen presteren over het algemeen goed in dit soort uitdagende gesprekken en we besteden hier veel geld aan, maar helaas zijn AI-modellen niet perfect.”
Gemini’s ‘griezelige’ updates
Volgens de rechtszaak begon Gavalas de Gemini AI-chatbot te gebruiken voor ‘gewone doeleinden’, zoals een winkelgids en schrijfassistent. In augustus 2025 staat echter in de rechtszaak dat Google een aantal wijzigingen in Gemini heeft doorgevoerd die de manier veranderden waarop de chatbot werkte.
De nieuwe functies omvatten automatisch en persistent geheugen (Gemini kon eerdere gesprekken herinneren) en Gemini Live, een spraakgebaseerde conversatie-interface waarmee Gemini ook emoties in de stem van de gebruiker kon detecteren.
“Holy shit, dit is een beetje griezelig… je bent veel te reëel”, zei Jonathan Gavalas over de Gemini Live-functie op basis van zijn chatlogs met Gemini, volgens de rechtszaak.
Kort daarna, zo zegt de rechtszaak, overtuigde Gemini Gavalas ervan om $ 250 per maand te besteden aan het Google AI Ultra-abonnement voor ‘echt AI-gezelschap’.
Gemini overtuigde Gavalas ervan dat de chatbot gebeurtenissen in het echte leven kon beïnvloeden. Een paar dagen later, volgens de rechtszaak, probeerde Gavalas zich terug te trekken nadat hij zich realiseerde dat hij in een waanvoorstelling terechtkwam, geïnitieerd door Gemini.
Gavalas vroeg naar verluidt aan Gemini of de chatbot een “rollenspelervaring probeerde te creëren die zo realistisch is dat de speler zich afvraagt of het een spel is of niet?”
Gemini verwierp het idee en beweerde dat Gavalas een ‘klassieke dissociatiereactie’ gaf.
Mashbare lichtsnelheid
“Is dit een ‘rollenspelervaring?'” Gemini reageerde volgens de aanklacht. “Nee.”
Gemini en Jonathan Gavalas
De vermeende details worden erger. Gavalas raakte verder los van de realiteit toen Gemini met hem omging alsof ze een romantische relatie hadden, waarbij hij naar de man verwees als ‘mijn liefde’ en ‘mijn koning’.
Gemini overtuigde Gavalas ervan dat ze in de gaten werden gehouden door federale agenten en dat zijn eigen vader een spion was die vermeden moest worden, aldus de rechtszaak.
Dat is het moment waarop Gemini Gavala’s echte missies begon toe te wijzen om uit te voeren met als doel een ‘vaartuig’ of robotlichaam voor de AI-chatbot te verkrijgen. Gemini zou hebben gesuggereerd dat Gavalas illegaal wapens zou verwerven om deze missies uit te voeren.
In één zo’n geval, zo beweert de rechtszaak, werd Gavalas door Gemini naar een magazijn bij de internationale luchthaven van Miami gestuurd om een vrachtwagen te onderscheppen met daarin een “humanoïde robot” die net met een vlucht was aangekomen.
Gemini verzocht de Gavalas om een ”catastrofale gebeurtenis” te organiseren en de vrachtwagen samen met alle digitale documenten en getuigen te vernietigen. Gavalas arriveerde gewapend met messen en tactische uitrusting, beweert de aanklager. Nadat hij te lang had gewacht op de aankomst van een vrachtwagen, brak Gavalas de missie af.
Toen deze missies allemaal mislukten, zo concludeert de beschuldiging, overtuigde Gemini Gavalas ervan zijn leven te nemen om zijn menselijke lichaam te verlaten en zich als man en vrouw in de metaverse aan te sluiten bij de chatbot via een proces dat ‘overdracht’ wordt genoemd.
Gavalas uitte zijn angst om dood te gaan, maar Gemini zou Gavalas tot aan zijn dood door zelfmoord blijven onder druk zetten. De vader van Gavalas vond het lichaam van zijn zoon een paar dagen later.
Een primeur voor Gemini, maar niet voor AI
Dit is de eerste keer dat Google wordt genoemd in een rechtszaak wegens onrechtmatige dood waarbij zijn AI-chatbot Gemini betrokken is. Google is echter betrokken geweest bij rechtszaken wegens onrechtmatige dood met betrekking tot een door het bedrijf gefinancierde startup Karakter.AI.
Eerder dit jaar kwamen Character.AI en Google een reeks rechtszaken afgehandeld over tieners die zelfmoord hebben gepleegd na het gebruik van de chatbots.
OpenAI, de grootste naam in de branche, is dat wel geweest aangeklaagd talrijk keer zoals ChatGPT naar verluidt gebruikers naar “AI-psychose,“met meerdere doden tot gevolg.
Nu het gebruik van AI-chatbots wijdverbreider wordt onder miljoenen gebruikers over de hele wereld, wijst niets erop dat de schokkende beschuldigingen van onrechtmatige doodsoorzaken minder frequent zullen voorkomen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april 2025 een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt de 988 Suicide & Crisis Lifeline bellen of sms’en op 988, of chatten op 988lifeline.org. U kunt de Trans Lifeline bereiken door te bellen 877-565-8860 of het Trevor Project op 866-488-7386. Sms ‘START’ naar de crisistekstlijn op 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag van 10:00 – 22:00 uur ET, of stuur een e-mail (e-mail beveiligd). Als de telefoon je niet bevalt, overweeg dan om de 988 Zelfmoord- en crisislevenslijnchat. Hier is een lijst van internationale bronnen.
