Een partner bij het elite advocatenkantoor Sullivan & Cromwell in Wall Street schreef een verontschuldigingsbrief aan een federale faillissementsrechter voor een rechtbank dossier dat AI-hallucinaties bevatte.
Andrew Dietderich, co-hoofd van Global Finance & Restructuring bij het bedrijf, zei in de notitie van 18 april dat een eerdere indiening onnauwkeurige citaten en andere fouten bevatte, waaronder AI-hallucinaties.
“Hallucinaties zijn gevallen waarin kunstmatige intelligentie-instrumenten citaten van rechtszaken verzinnen, autoriteiten verkeerd citeren of niet-bestaande juridische bronnen genereren”, aldus Dietderichs brief. “Wij betreuren het ten zeerste dat dit is gebeurd.”
Uit een bij de brief gevoegde tabel bleek dat de motie onjuiste zaaknamen en -nummers bevatte en blijkbaar verzonnen citaten uit zaken.
Dietderich zei dat de fouten van Sullivan & Cromwell, die de failliete firma Prince Global Holdings vertegenwoordigde, waren ontdekt door het advocatenkantoor Boies Schiller Flexner, dat de schuldeisers vertegenwoordigde, en dat hij hen had bedankt en zich had verontschuldigd.
Hij zei dat Sullivan & Cromwell – een 140 jaar oud bedrijf met meer dan duizend advocaten – een alomvattend beleid heeft als het gaat om het gebruik van AI en dat er voorzorgsmaatregelen zijn om dit exacte scenario te voorkomen. Het beleid van het bedrijf werd niet gevolgd, en de fouten kwamen ook voorbij het beoordelingsproces van het bedrijf voor citaten, zei hij.
Dietderich schreef aan de in Manhattan gevestigde hoofdrechter Martin Glenn dat hij en de firma “zich terdege bewust waren van onze verantwoordelijkheid om de juistheid van alle inzendingen te garanderen.”
“Ik neem de verantwoordelijkheid op mij voor het nalaten dit te doen”, zei hij, eraan toevoegend dat ze een gecorrigeerde versie van de indiening zouden indienen.
Een vertegenwoordiger van het bedrijf en Dietderich reageerden niet op vragen van Business Insider. Ook een vertegenwoordiger van de rechter reageerde niet.
Als het erop aankomt AI-hallucinaties in juridisch werk heeft Sullivan & Cromwell gezelschap.
Volgens juridisch onderzoeker Damien Charlotin, die een openbare database bijhoudt, zijn valse juridische citaten sinds 2023 gebruikelijker geworden. AI-hallucinaties in rechtszaken.
