25.07.2025
Федеральный суд США ввел санкции против трёх адвокатов из юридической фирмы Butler Snow за использование фальшивых данных, сгенерированных искусственным интеллектом ChatGPT, в судебных документах. Речь идет о юристах, работающих над делами, связанными с тюремной системой штата Алабама. Санкции затронули руководителя подразделения по тюремным делам Уильяма Лансфорда, а также адвокатов Мэттью Ривза и Уильяма Крэнфорда. Все трое были отстранены от дела, где использовались подделанные сведения. Суд обязал их уведомить клиентов, коллег-юристов и судей по другим процессам о наложенных санкциях. Кроме того, материалы переданы в Коллегию адвокатов Алабамы для возможного применения дисциплинарных мер. Юридическая фирма Butler Snow долгое время представляет интересы штата Алабама в делах, связанных с его пенитенциарной системой. По данным о расходах штата, с 2020 года Алабама выплатила Лансфорду и его компании свыше $40 млн. В своей защите адвокаты заявили, что они решили использовать ChatGPT для исследования судебной практики, но предоставленную им информацию они не перепроверили перед включением в два документа. Как оказалось, неправильные цитаты были «галлюцинациями» системы искусственного интеллекта. Судья охарактеризовала включение непроверенной информации как «крайнее безрассудство». Скандал всплыл в ходе иска одного из заключенных исправительного учреждения, который получил множественные ножевые ранения. Истец утверждает, что администрация тюрьмы не смогла обеспечить должный уровень безопасности для заключённых. Похожая история произошла в Нью-Джерси, где судья Жюльен Ксавье Нилс отменил своё решение по делу о ценных бумагах биофармацевтической компании CorMedix. После того как юристы обнаружили ошибочную информацию в документах, адвокат Эндрю Лихтман указал на значительные недочёты в решении суда об отклонении ходатайства. Хотя прямых доказательств использования ИИ в юридической практике в этом случае не было представлено, характер ошибок напоминает схожие проблемы, возникающие при использовании технологии искусственного интеллекта.
Все больше людей начинают использовать ChatGPT в качестве замены психотерапевта, однако это практика не лишена рисков. Генеральный директор OpenAI Сэм Альтман отметил, что конфиденциальность подобных бесед не защищена законом так же, как взаимодействие с профессиональным терапевтом. Он объяснил, что, если пользователь обсуждает свои сокровенные вопросы в общении с ChatGPT, а затем происходит судебное разбирательство или иной юридический запрос, компания может быть обязана предоставить информацию из этих бесед. Такое заявление Альтман сделал в ходе разговора с Тео Воном в подкасте, вышедшем на этой неделе. Он также подчеркнул, что при обсуждении проблем с психотерапевтом, врачом или юристом действует принцип неприкосновенности информации, защищенной конфиденциальностью. Эти данные обычно оберегаются законами, вроде врачебной тайны или юридической привилегии. Однако компания всё ещё не определилась с подходом к конфиденциальности взаимодействий пользователей с искусственным интеллектом.
С развитием технологий Альтман выразил уверенность в том, что обсуждение вопросов конфиденциальности стало не менее актуальным: он подчеркнул необходимость создания нормативных рамок, сопоставимых с защитой бесед с профессиональными терапевтами. По его словам, год назад этому вопросу уделяли меньше внимания, но теперь он стал критически важным. Альтман отметил, что требуется пересмотр законодательства в отношении таких взаимодействий. В отличие от переписки в зашифрованных мессенджерах вроде WhatsApp либо Signal, OpenAI имеет доступ к анализу чатов между пользователями и ChatGPT. Эти данные часто используются для совершенствования работы модели ИИ и уменьшения несанкционированного использования. Согласно политике хранения данных, сообщения в бесплатной и платных версиях ChatGPT удаляются через 30 дней, если на их сохранение не наложены юридические или регуляторные ограничения. В июне OpenAI столкнулась с судебным иском от The New York Times и других истцов, которые потребовали хранить все чаты пользователей на неопределённый срок, включая те, которые уже были удалены. Данное требование является частью более широкой жалобы, связанной с обвинениями в нарушении авторских прав, которую компания сейчас обжалует.