02.10.2025
В США вынесено знаковое решение против адвоката, который подал в суд документы с поддельными цитатами, сгенерированными искусственным интеллектом ChatGPT. Верховный суд Калифорнии наложил штраф в размере 10 тысяч долларов на юриста Амира Мостафави за предоставление документов с фиктивными ссылками, большая часть которых оказалась выдумкой. Из 23 цитат, представленных адвокатом в качестве доказательной базы, апелляционная инстанция признала ложными 21. Суд постановил, что данное решение служит предупреждением для всех юристов: подаваемые документы не должны содержать цитат, которые адвокат предварительно не проверил лично.
Помимо конкретного дела Мостафави, напряженность вокруг использования генеративного ИИ в юридической практике продолжает нарастать. В прошлом месяце Судебный совет Калифорнии выпустил директиву, предписывающую судьям и сотрудникам судов либо запретить использование такого ПО, либо разработать официальные правила его применения до конца 2025 года. Аналогично Ассоциация адвокатов Калифорнии рассматривает ужесточение кодекса профессионального поведения адвокатов в части применения генеративного ИИ. Это решение инициировано Верховным судом штата.
Мостафави признался, что в июле 2023 года подал апелляцию, созданную с помощью ChatGPT, без тщательной проверки текста. Это произошло спустя несколько месяцев после того, как компания OpenAI открыто продвигала ChatGPT как инструмент, способный помочь даже в сдаче юридических экзаменов. Однако позже эксперты, включая ученых Массачусетского технологического института, поставили под сомнение эффективность таких заявлений. Судьи единогласно наложили штраф на Мостафави за нарушение судебных правил, затягивание времени суда и нецелесообразные траты налогоплательщиков. Сам адвокат заявил, что первоначально написал текст самостоятельно, а затем решил использовать ИИ для его доработки. Тем не менее штраф стал рекордным случаем наказания за неправильное применение ИИ в калифорнийской юридической практике.
Ранее в мае еще одно дело привлекло большое внимание общественности и СМИ. Две юридические фирмы были оштрафованы на сумму 31 100 долларов за использование фальсифицированных исследований, подготовленных с помощью искусственного интеллекта. Судья отметил, что был введен в заблуждение документами юристов: они использовали фиктивные материалы и ссылались на несуществующие дела, что он расценил как серьезное нарушение. По его словам, необходимо применять строгие меры для предотвращения подобных злоупотреблений. Судья также выразил обеспокоенность ростом числа случаев недобросовестного использования ИИ: если в начале года такие эскалации фиксировались раз в месяц, сейчас они стали почти ежедневным явлением.
Эксперты согласны с этой оценкой. Профессор юридического факультета Калифорнийского университета в Лос-Анджелесе Эндрю Селбст отметил, что недавние выпускники юрфаков находятся под давлением из-за навязываемой необходимости использования ИИ. Более того, аналогичное давление чувствуют преподаватели и специалисты других отраслей. «Это становится повсеместной практикой», – заявил он. «Компании, школы и другие учреждения активно внедряют ИИ, но мы пока не готовы к последствиям такой трансформации».