OpenAI-CEO Sam Altman heeft zijn excuses aangeboden aan leden van een Canadese gemeenschap waar een massale schietpartij vond eerder dit jaar plaats omdat het ChatGPT-account niet was gemarkeerd de schutter aan wetshandhaving.
‘De pijn die uw gemeenschap heeft moeten doorstaan is onvoorstelbaar’, schreef Altman in een brief gedeeld Vrijdag op sociale media door premier David Eby van British Columbia. “Ik heb de afgelopen maanden vaak aan je gedacht.”
Acht mensen kwamen om bij het bloedbad van 10 februari in de kleine gemeenschap van Tumbler Ridge in het noordoosten van British Columbia. Zes mensen werden dodelijk neergeschoten toen de 18-jarige Jesse Van Rootselaar het vuur opende op de Tumbler Ridge Secondary School, zeiden de autoriteiten, en de moeder van de schutter en de 11-jarige broer werden gedood in een nabijgelegen woning. Van Rootselaar stierf aan een zelf toegebrachte schotwond, zeiden ambtenaren.
Altman schreef in de brief, gedateerd donderdag, dat Van Rootselaars ChatGPT-account in juni 2025 was verboden – ongeveer acht maanden voorafgaand aan de schietpartij.
“Het spijt me ten zeerste dat we de politie niet op de hoogte hebben gesteld van het account dat in juni werd verboden”, zei Altman.
In februari vertelde OpenAI aan CBS News dat het account van Van Rootselaar vorig jaar was gemarkeerd door geautomatiseerde misbruikdetectietools en menselijke onderzoekers die mogelijk misbruik van ChatGPT voor gewelddadige activiteiten identificeren. OpenAI zei dat het account vervolgens werd verboden wegens schending van het gebruiksbeleid.
OpenAI zei dat het bedrijf had overwogen of het account aan de wetshandhaving moest worden gemeld, maar destijds had vastgesteld dat het geen onmiddellijk en geloofwaardig risico op ernstig lichamelijk letsel voor anderen vormde, omdat het niet voldeed aan de drempel voor verwijzing.
“Onze gedachten zijn bij iedereen die getroffen is door de Tumbler Ridge-tragedie”, zei OpenAI in februari in een verklaring aan CBS News na de schietpartij. “We hebben proactief contact opgenomen met de Royal Canadian Mounted Police met informatie over het individu en hun gebruik van ChatGPT, en we zullen hun onderzoek blijven ondersteunen.”
OpenAI zegt dat ChatGPT is getraind om schade in de echte wereld te ontmoedigen, en de opdracht heeft gekregen om hulp te weigeren wanneer het een ongeoorloofde bedoeling ontdekt. Gebruikers die plannen aangeven om anderen schade toe te brengen, worden doorverwezen naar menselijke beoordelaars die bepalen of een zaak een onmiddellijke dreiging van lichamelijk letsel vormt en moet worden doorverwezen naar de wetshandhaving, aldus het bedrijf.
Altman schreef in zijn brief dat OpenAI gefocust zal blijven op preventieve inspanningen “om ervoor te zorgen dat zoiets nooit meer gebeurt.”
“Ik wil mijn diepste medeleven betuigen aan de hele gemeenschap”, zei Altman. “Niemand zou ooit een tragedie als deze moeten meemaken.”
Eerder deze week zei procureur-generaal James Uthmeier uit Florida aangekondigd een strafrechtelijk onderzoek naar OpenAI na het bekijken van berichten tussen ChatGPT en een student van de Florida State University beschuldigd van een schietpartij op de campus in april 2025 waarbij twee mensen om het leven kwamen en verscheidene anderen gewond raakten.
Uthmeier zei dat zijn team had vastgesteld dat ChatGPT “significant advies” had gegeven aan de vermeende schutter. Zijn kantoor vaardigt dagvaardingen uit aan OpenAI en vraagt om registratie van de protocollen van het bedrijf voor het melden van mogelijke misdaden aan de wetshandhaving, en de afhandeling van gebruikersbedreigingen.
Met betrekking tot de schietpartij in Florida zei een woordvoerder van OpenAI dinsdag in een verklaring aan CBS News dat het “na kennis te hebben genomen van het incident” een ChatGPT-account identificeerde waarvan werd aangenomen dat het verband hield met de verdachte en deze informatie proactief deelde met wetshandhavingsinstanties.
