Юрфирма с Уолл-стрит извинилась за ошибки в судебном документе из-за галлюцинаций ИИ

Юридическая фирма Sullivan & Cromwell принесла извинения федеральному судье после того, как подала в суд документ с примерно 40 неверными ссылками на источники и другими ошибками, возникшими из-за «галлюцинаций» ИИ.

Сопредседатель глобальной практики реструктуризации Sullivan & Cromwell Эндрю Дитдерих написал об этом в письме председателю судье Мартину Гленну в Банкротный суд США Южного округа Нью-Йорка, отметив, что компания «глубоко сожалеет о случившемся».

По его словам, фирма и он лично осознают ответственность за точность всех подаваемых материалов и берут на себя ответственность за то, что это требование не было соблюдено при подготовке экстренного ходатайства, поданного девятью днями ранее.

Ситуация подчеркнула риски использования ИИ-инструментов в ответственной профессиональной работе без должного контроля. По данным базы, которую ведет специалист по юридическим технологиям Дэмиен Шарлотен, зафиксировано 1 334 случая «галлюцинаций» ИИ в судебных материалах по всему миру, включая более 900 случаев в США.

Шарлотен отмечает, что чаще всего речь идет о вымышленных ссылках на правовые источники, хотя иногда выявлялись и сгенерированные ИИ юридические доводы.

Дитдерих сообщил, что в Sullivan & Cromwell действуют правила использования ИИ, включая проверку цитируемых источников, однако в данном случае эти процедуры не были соблюдены.

«К сожалению, процесс проверки не выявил неточные ссылки, сгенерированные ИИ, а также другие ошибки, которые, по-видимому, полностью или частично возникли из-за ручных неточностей».

Sullivan & Cromwell входит в число крупнейших юрфирм США по выручке и занимает 30-е место в рейтинге AmLaw Global 200. Ранее фирма также представляла криптобиржу FTX в деле о банкротстве.

В Sullivan & Cromwell начали внутреннее расследование

Дитдерих заявил, что фирма приняла «немедленные корректирующие меры», включая полную проверку обстоятельств, приведших к ошибкам.

Также, по его словам, компания оценивает, нужны ли дополнительные улучшения во внутреннем обучении и процедурах проверки.

Он добавил, что неточности обнаружила другая юридическая фирма, и он позвонил в Boies Schiller Flexner LLP, чтобы поблагодарить за внимание к проблеме и лично принести извинения.

Источник: Sullivan & Cromwell