OpenAI-topman Sam Altman verontschuldigde zich bij een Canadese gemeenschap omdat hij de politie niet had gewaarschuwd over de gesprekken van een massaschutter met zijn chatbot.
Volgens de autoriteiten heeft de 18-jarige Jesse Van Rootselaar acht mensen vermoord, waaronder schoolkinderen, in Tumbler Ridge, British Columbia, voordat ze in februari zelfmoord pleegde.
“Het spijt me ten zeerste dat we de politie niet op de hoogte hebben gesteld van het account dat in juni werd verboden”, zei Altman donderdag in een brief. “Hoewel ik weet dat woorden nooit genoeg kunnen zijn, geloof ik dat een verontschuldiging nodig is om de schade en het onomkeerbare verlies te erkennen dat uw gemeenschap heeft geleden.”
Vrijdag plaatste premier David Eby van British Columbia de brief op sociale media.
De brief kwam later de Wall Street Journalonder verwijzing naar mensen die bekend zijn met de zaak, meldde dit jaar dat Van Rootselaar met ChatGPT sprak over wapengeweld, wat OpenAI-medewerkers ertoe aanzette te debatteren over de vraag of ze de Canadese wetshandhaving moesten waarschuwen.
OpenAI verbood het account van de gebruiker, maar besloot de politie niet op de hoogte te stellen nadat hij had onderzocht of de activiteit als een dreigend en ernstig risico op lichamelijk letsel voor anderen zou worden beschouwd.
Technologiebedrijven hebben in de nasleep van de massale schietpartijen steeds meer aandacht gekregen voor de manier waarop criminelen hun instrumenten gebruiken om aanvallen te plannen of moorden uit te zenden. Maar de opkomst van kunstmatige intelligentie-chatbots die snel vragen beantwoorden en inhoud genereren, betekent ook dat mensen hun donkerste gedachten online verspreiden. AI-bedrijven houden zich nu bezig met debatten over het balanceren van openbare veiligheid en privacy, terwijl ze ook worstelen met nieuwe rechtszaken en onderzoeken.
In maart klaagde de familie van een slachtoffer van de schietpartij in Tumbler Ridge, die in het ziekenhuis was opgenomen, OpenAI aan. Het bedrijf beweerde dat het bedrijf wist dat de schutter een massaaanval plantte, maar de politie niet had gewaarschuwd.
In een post vrijdag op X noemde Eby de verontschuldiging “noodzakelijk en toch schromelijk onvoldoende voor de verwoesting die de families van Tumbler Ridge is aangedaan.”
In de brief zei Altman dat hij met de burgemeester van Tumbler Ridge, Darryl Krakowka en Eby, over de schietpartij had gesproken en dat zij het eens waren over een publieke verontschuldiging. Altman zei dat hij vastbesloten was manieren te vinden om dergelijke tragedies te voorkomen.
“In de toekomst zal onze focus blijven liggen op het samenwerken met alle overheidsniveaus om ervoor te zorgen dat zoiets nooit meer gebeurt”, aldus Altman in de brief.
OpenAI kampt ook met reacties over de vraag of het genoeg doet om de openbare veiligheid in de Verenigde Staten te beschermen.
Vorige week startte de procureur-generaal van Florida een strafrechtelijk onderzoek naar ChatGPT en OpenAI om vast te stellen of het AI-bedrijf uit San Francisco “strafrechtelijke verantwoordelijkheid draagt” voor de acties van de chatbot bij een schietpartij op de Florida State University vorig jaar waarbij twee mensen om het leven kwamen. Aanklagers hadden gesprekken tussen de verdachte, Phoenix Ikner, en ChatGPT beoordeeld.
