Ещё одно дело о галлюцинациях ИИ дошло до высокой инстанции. Апелляционный суд США по Девятому округу наложил санкции на двух адвокатов, в процессуальных документах которых обнаружились многочисленные фальшивые или искажённые цитаты и ссылки на несуществующие судебные акты. У обоих адвокатов приостановлено право практиковать в этом округе (он включает девять западных штатов США, в том числе Калифорнию).
Необычная суровость наказания (обычно в таких случаях всё ограничивается штрафом и предупреждением) связана с недобросовестным поведением в ходе процесса. Когда суд потребовал объяснений, адвокаты настаивали на том, что речь идёт о технических опечатках и ошибках при копировании, а использование ИИ, вопреки очевидности, категорически отрицали — причём один из них трижды отрицал это непосредственно в ходе устных прений. Лишь под давлением дальнейших вопросов он допустил «возможность» применения ИИ.
Суд особо оговорил, что санкции налагаются не за сам факт использования генеративного ИИ — применение таких инструментов не запрещено. Нарушение возникает в момент подписания и подачи документа. Если адвокат подаёт в суд документ, содержащий несуществующие прецеденты или сфабрикованные цитаты, неважно, являются ли они продуктом «галлюцинации» ИИ или собственной ошибкой адвоката. Подпись под документом — это удостоверение его содержания.
В итоге с каждого адвоката взыскали по 2,5 тыс. долларов штрафа, приостановили право на практику в Девятом округе на полгода, а в Адвокатскую палату Калифорнии было направлено представление для возможного дисциплинарного преследования. Кроме того, в течение двух лет они должны будут прикладывать к своим процессуальным документам заявление, сделанное под страхом уголовной ответственности за ложь, где будет написано, использовался ли ИИ, и будет содержаться личное подтверждение адвоката, что все цитаты и ссылки реальны.
Комментарий Сергея Будылина, советника АБ «Бартолиус», к.ф.-м.н., LL.M.
Поделом, конечно. Может сложиться впечатление, что американские суды захлестнула волна сгенерированных ИИ документов. Но, насколько я понимаю, с адвокатами это всё же скорее редкость: дела бывают громкие, но в процентном отношении их не так много. Даже странно, что некоторые адвокаты, вложившие столько сил и денег в своё образование, ведут себя настолько глупо.
Но вот когда истец выступает без адвоката (что бывает нередко), то наверняка 99% документов написаны ИИ. И если адвоката можно привлечь к дисциплинарной ответственности, то с простыми гражданами всё сложнее. Да ведь сам истец наверняка ещё хуже написал бы.
Видимо, судье тогда придётся всё-таки самостоятельно проанализировать кейс... | |