Адвокат в суде сослался на несуществующих свидетелей из‑за использования ChatGPT

Верховный суд штата Нью‑Мексико заявил, что адвокат, который подавал апелляцию на обвинительный приговор своему клиенту по делу об убийстве, показал документ с вымышленными показаниями полицейских и несуществующих свидетелей. Для его составления он воспользовался ChatGPT.

В итоге Верховный суд Нью‑Мексико оштрафовал адвоката Стивена Ааронса на $5000 и признал его виновным в неуважении к суду за то, что он не проверил достоверность поданного документа. 

Судейская коллегия также заявила, что Ааронс «не проявил раскаяния и не продемонстрировал заботы о своём клиенте». 

Адвокат сообщил, что использовал ChatGPT для обобщения материалов судебного разбирательства, когда в прошлом году взялся за апелляцию подсудимого, и не осознавал, в какой степени ИИ способен «галлюцинировать», выдумывая факты.

«Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтёт, что это была непреднамеренная ошибка, — сказал он. — Это урок для всех профессионалов, полагающихся на эту мощную, но порой ненадёжную технологию». 

Санкция суда стала очередным случаем в растущем списке инцидентов, когда судьи и адвокаты применяли ИИ без надлежащей проверки. Случай Ааронса, по‑видимому, оказался более серьёзным, так как документ содержал вымышленные показания свидетелей в рамках апелляции по уголовному делу. Частный защитник из Санта‑Фе занимался апелляцией Оскара Рене Сандовала, который не признал себя виновным в убийстве матери своих детей, но был осуждён и приговорен в прошлом году к пожизненному заключению. Теперь рассмотрение апелляции продолжается, однако защиту поручили Киму Чавесу Куку, государственному адвокату штата Нью‑Мексико. 

В прошлом месяце Верховный суд штата обязал Ааронса объяснить, каким образом в его основную апелляционную жалобу попали вымышленные сведения — в частности, утверждение о том, что стрелявший был одет в тёмные брюки и белую рубашку. Тот сообщил суду, что загрузил в ChatGPT сгенерированную компьютером стенограмму и другие материалы дела, полагая, что нейросеть составит «безупречное резюме».

Судьи выразили недоумение по поводу того, что Ааронс не довольно осознавал вероятность ошибок искусственного интеллекта. «Адвокат, вы смотрите новости? Слушаете радио? Читаете ли вы что‑нибудь о том, что происходит в мире? — спросила на слушании судья К. Шеннон Бэкон. — Ведь задача того, как юристы полагаются на „галлюцинации“ искусственного интеллекта, ежедневно становится главной темой новостей».

Ранее суд в американском штате Миссисипи отстранил от разбирательства адвокатов обеих сторон из‑за подозрений в использовании искусственного интеллекта для аргументации друг против друга. Тогда судья Шарион Эйкок написала, что адвокаты потратили время суда впустую, поскольку они просто брали ответы ИИ и использовали их в суде без проверки.