09.06.2023
Радиоведущий из Джорджии Марк Уолтерс подал в суд на разработчика ChatGPT компанию OpenAI за клевету. Нейросети дали задание резюмировать дело федерального суда на основе PDF-файла. ChatGPT дала неверный ответ и обвинила Уолтерса в незаконном присвоении более $5 млн. Ранее радиоведущий ни в чем подобном не обвинялся. Издание проверило возможности генеративного искусственного интеллекта от OpenAI и получило от нейросети ответ, объясняющий, что она не может открывать внешние файлы. Вероятно, при выполнении задачи использовались плагины и дополнения. Уолтерс требует от OpenAI возмещения денежного ущерба, но его размер не указывается. ChatGPT заранее предупреждает пользователей о том, что система «может иногда генерировать неверную информацию». При этом генеральный директор OpenAI Сэм Олтмен заявлял, что сам пользуется нейросетью вместо книг для получения информации. Ранее причиной другого скандала было враньё искусственного интеллекта о прошлом Брайана Худа, мэра города Хепберн Шир, расположенного в 120 км к северо-западу от Мельбурна. В прошлом году он был выбран на эту должность и клевета в его адрес может стать обвалом его карьеры. При расспросе ChatGPT о Худе бот выдаёт информацию, что этот человек якобы отбывал наказание в тюрьме по делу о взяточничестве в Резервном банке Австралии. Якобы он был замешан в выплате взяток иностранным чиновникам для получения контрактов на печать валюты. На самом деле Худ работал в филиале Резервного банка Австралии, но не привлекался как виновный, а был ключевым свидетелем обвинения, так как именно с его помощью была вскрыта преступная схема.
По нынешнему инциденту пятого июня 2023 года Уолтерс оформил документы в суд, обвинив OpenAI в диффамации – распространении порочащих его сведений. Обычно такие дополнения не несут вреда (разве что вводят в заблуждение), однако случай с Марком Уолтерсом показывает ситуацию в ином свете. ChatGPT, в свою очередь, указывает, что бот «может генерировать неверную информацию», но в то же время позиционирует ИИ как источник новой информации и ответов на вопросы. ChatGPT просили проанализировать реальные судебные документы и выдать краткое резюме, и он сделал это в меру своих возможностей, но разбавил материалы дополнительными фактами, не имеющими отношения к настоящим. Так и появились Марк Уолтерс и якобы полученные им 5 млн долларов США. Готовый текст не был опубликован, однако проходил проверку третьим лицом. Как именно Уолтерс узнал о материале, неизвестно.