В федеральном деле, связанном с массовыми увольнениями в администрации Дональда Трампа, юристы признали ошибку после обнаружения в судебных документах ложных цитат, сгенерированных искусственным интеллектом. Адвокат Джейсон Гривз признался, что использовал платформу Claude Console от Anthropic для подготовки материала при жестких временных ограничениях, что привело к появлению так называемых "фантомных" цитат.
По словам Гривза, он передал черновик прохождения другому юристу с указанием проверить ссылки. Однако в итоговом документе оказалось несколько неточных ссылок на дела, при этом часть цитат оказалась полностью вымышленной. Гривз взял на себя полную ответственность и принёс извинения суду и коллегам по делу.
Этот эпизод стал очередным случаем, когда ошибки искусственного интеллекта влияют на судебные процессы. Ранее в апреле юристы из Sullivan & Cromwell получили санкции за подачу фальшивых ссылок также, созданных ИИ. Текущий судебный спор связан с массовыми сокращениями в федеральных органах, в том числе FEMA, и отражает растущие проблемы использования ИИ в юридической практике.
Платформа Claude Console, запущенная в марте 2023 года, применяется в бизнесе для автоматизации подготовки документов, анализа и кодирования. Однако данный случай показывает, что применение ИИ требует очень тщательной проверки, иначе ошибки могут привести к судебным осложнениям и репутационным рискам.
Юристы продолжают осваивать новые технологии, но опыт с "фантомными цитатами" напоминает о необходимости контроля и ответственности при использовании ИИ в юридической работе.