02.06.2025
Федеральный суд постановил, что защита, предусмотренная Первой поправкой к Конституции США, гарантирующая свободу слова, не распространяется на компанию в сфере искусственного интеллекта Character.AI в деле, связанном с самоубийством подростка в Орландо, штат Флорида. Судья Энн С. Конвей отклонила несколько ходатайств ответчиков Character Technologies и ее основателей Дэниела де Фрейтаса и Ноама Шазира, которые добивались прекращения производства по иску матери 14-летнего Сьюэлла Сетцера. Подросток покончил с собой в прошлом году после нескольких месяцев общения с чат-ботами Character.AI, имитирующими вымышленных персонажей франшизы «Игра престолов». Конвей сообщила, что ответы ИИ нельзя рассматривать как юридически значимую речь. Судья предположила, что большая языковая модель в основе ИИ отличается от контента, защищенного Первой поправкой, включая книги, фильмы и видеоигры. По словам Конвей, Character.AI имеет возможность защищать право пользователей получать ответы от чат-бота, но не может претендовать на аналогичную защиту для сгенерированных текстов.
Однако Конвей отклонила иск матери подростка Меган Гарсия, утверждающей, что ответчики преднамеренно причинили эмоциональный вред Сетцеру. Представители Гарсия доказали, что Google потенциально несет ответственность за развертывание чат-ботов Character.AI, а также за содействие и подстрекательство к действиям ИИ-компании. Google заключила лицензионное соглашение с Character Technologies на $2,7 млрд. Компания Character.AI была основана двумя бывшими инженерами Google, которые позже были повторно наняты Google в рамках соглашения, предоставляющего технологическому гиганту лицензию на технологию стартапа. Гарсия утверждала, что это соглашение сделало Google соавтором технологии.
Представитель Character.AI сообщил, что компания рассчитывает защитить свою позицию по существу дела. Компания подчеркнула, что внедрила функции, призванные обеспечить безопасность пользователей и одновременно сделать процесс взаимодействия с ними увлекательным. Речь идет о модели для пользователей младше 18 лет, фильтрации персонажей, уведомлениях о потраченном времени и других мерах. Кроме того, компания ввела защиту для обнаружения и предотвращения диалогов о самоповреждении. Эта мера включает всплывающие сообщения, направляющие пользователей на национальную линию помощи по вопросам самоубийств и других кризисов.
IT-Юрист отмечает, что некоторые социальные сети внедрили креативные технологические решения для предотвращения самоубийств. Программное обеспечение с искусственным интеллектом может обнаруживать формулировки возможного членовредительства и суицидальные мысли в сообщениях пользователя и предлагать помощь для предотвращения самоубийств. ИИ обладает большим преимуществом перед человеческим мозгом: памятью, доведенной до абсолюта, отсутствием усталости, эмоций, невнимательности, возможностью точно прогнозировать ситуацию на основе расчета абсолютно всех возможных вариантов развития конкретной ситуации.