26.01.2026
Еврокомиссия запустила официальное разбирательство в отношении социальной сети X и чат-бота Grok в связи с широким распространением сгенерированных нейросетями изображений, носящих сексуальный характер. Это первое масштабное расследование Еврокомиссии против ИИ‑продукта после вступления в силу AI Act. Ранее аналогичные проверки касались только рекомендательных алгоритмов соцсетей. Случай с Grok может стать прецедентом для регулирования генеративного ИИ в ЕС. Информация об этом появилась на официальном сайте ведомства. Основанием для расследования послужили нормы Закона о цифровых услугах (DSA). Параллельно ЕК пролонгировала ранее начатое расследование, стартовавшее в декабре 2023 года, относительно соблюдения социальной сетью обязательств по управлению рисками в сфере рекомендательных алгоритмов. Еврокомиссия намерена оценить, насколько компания выполняет свои обязательства по контролю за рисками, связанными с функционалом Grok на платформе X в рамках Евросоюза. В частности, речь идет об опасениях, касающихся распространения контента, в том числе обработанных изображений сексуального характера и материалов, которые могут быть связаны с насилием над детьми. Вероятной причиной для начала расследования послужила волна публикаций в X, где пользователи начали делиться сгенерированными изображениями реальных женщин и девочек в откровенных или сексуализированных позах без их согласия.
Еврокомиссия выдвигает следующие предварительные обвинения:
Недостаточная прозрачность
— Отсутствие чёткой маркировки, указывающей, что ответы генерирует ИИ (требование ст. 52 AI Act).
— Неясность в объяснении принципов работы алгоритма.
Риски для прав человека
— Возможные случаи генерации дезинформации или предвзятых суждений.
— Потенциальное нарушение GDPR из‑за обработки персональных данных без явного согласия.
Отсутствие оценки рисков
— Компания не предоставила ЕК обязательный отчёт о потенциальных угрозах, связанных с использованием Grok (требование ст. 9 AI Act).
New York Times сообщала, что за девять дней, в конце декабря, было опубликовано не менее 1,8 миллиона изображений сексуального характера. После критики в адрес социальной сети руководство X заявило, что ограничило функцию генерации подобного контента. В случае подтверждения нарушений, компании может грозить крупный штраф. Европейская комиссия инициировала официальную проверку в отношении чат-бота Grok касательно соблюдения акта Евросоюза об ИИ, вступившего в силу в 2024 году. Ключевые претензии включают недостаточную прозрачность в отношении того, что ответы сгенерированы ИИ, риски нарушения прав человека. Если нарушения подтвердятся, компании грозят штрафы до 6 % годового оборота, корректировка работы Grok и временный запрет на эксплуатацию в ЕС. Компания утверждает, что активно сотрудничает с регуляторами и уверяет, что Grok соответствует европейским нормам. В начале января собственный расследования были начаты также в Австралии, Великобритании, Германии и Франции. Кроме того, Grok запретили в Индонезии и Малайзии, однако последняя уже сняла запрет.