27.04.2026
Кто ответит за ошибки ИИ? В ТПП РФ обсудили галлюцинации нейросетей, дипфейки и разделённую ответственность
· 7 минут чтения23 апреля 2026 года в рамках XVIII Международного форума «Интеллектуальная собственность – XXI век» в Торгово-промышленной палате РФ прошёл круглый стол «Без права на ошибку: кто ответит за интеллект, созданный машиной?». Юристы, разработчики нейросетей, учёные и представители IT-бизнеса пытались найти ответ на вопрос, который становится всё острее: кто платит, когда алгоритм ошибается? Банковский скоринг несправедливо отказывает в кредите, медицинская нейросеть ставит неверный диагноз, а дипфейк разрушает репутацию человека. Пока вся ответственность лежит на пользователе, но эксперты уже обсуждают модели «разделённой вины» и механизмы opt-out для авторских прав.
Сначала отвечает человек: единство мнений и первый тревожный звоночек
Участники круглого стола сошлись в главном: на текущем этапе развития технологий всю ответственность за результат использования ИИ несёт человек. Тот, кто подписывает документ, запускает алгоритм или принимает решение на основании выдачи нейросети, не может переложить вину на «компьютер ошибся». «Никакой искусственный интеллект не освобождает врача от клятвы Гиппократа, а юриста — от профессиональной обязанности проверять факты», — заявил один из выступающих, чья позиция не встретила возражений.
Однако уже в ходе дискуссии прозвучали первые сомнения. Участники вспомнили громкий случай в США, где адвокаты включили в судебные документы ссылки на несуществующие прецеденты, «придуманные» ChatGPT. Суд оштрафовал юристов на $110 000, но если бы ошибка привела к реальным убыткам клиента, сумма могла быть кратно больше. «Мы стоим на пороге лавины исков к тем, кто слепо доверился нейросети. Но справедливо ли наказывать пользователя за баг, который разработчики знали, но не исправили?» — задал риторический вопрос модератор.
Разделённая ответственность: 30% разработчику, 70% юристу?
Самой обсуждаемой стала гипотетическая модель «разделённой ответственности». Её сторонники предложили распределять процент вины между пользователем и создателем нейросети в зависимости от характера ошибки. Например, если нейросеть «галлюцинирует» из‑за известного и задокументированного бага, который разработчик не исправил в разумный срок, его доля ответственности может достигать 30%. Оставшиеся 70% ложатся на профессионала (юриста, врача, финансового консультанта), который не перепроверил результат.
«Цифры 70 на 30 — это не догма, а приглашение к дискуссии, — пояснил один из участников. — Но сама идея знаковая: алгоритм перестаёт быть “чёрным ящиком”, а его создатели получают экономический стимул повышать надёжность». Впрочем, разработчики нейросетей отнеслись к инициативе с осторожностью: «Мы не можем гарантировать отсутствие галлюцинаций в принципе — это свойство больших языковых моделей. Если нас начнут штрафовать за каждую выдумку, индустрия просто рухнет».
Галлюцинации нейросетей: реальные кейсы из российской практики
Участники круглого стола привели несколько показательных примеров из российской юридической практики. Один из московских адвокатов рассказал, как ChatGPT «придумал» постановление Верховного суда с номером, которого не существует, и включил его в обоснование позиции по делу. К счастью, оппонент не заметил подлога, но риск разоблачения был высок. Другой случай касался кадрового агентства, которое с помощью ИИ‑скоринга отсеивало кандидатов старше 45 лет — алгоритм научился дискриминировать по возрасту, хотя разработчики не закладывали такой функции.
«Галлюцинации нейросетей — это не баг, а фича, если угодно, плата за креативность. Но когда речь идёт о судьбе человека, платежеспособности или здоровье, мы не можем позволить себе “творческий подход” алгоритма», — резюмировали эксперты. Прозвучало предложение законодательно закрепить для «высокорисковых» сфер (медицина, судопроизводство, банки) обязанность разработчиков предоставлять по запросу суда «журнал доверия» — техническую документацию, объясняющую, почему модель приняла то или иное решение.
Дипфейки: этика и право на идентичность
Отдельный блок дискуссии был посвящён дипфейкам — синтезированным видео- и аудиоматериалам. Участники отметили, что технология уже используется для дискредитации публичных людей, создания ложных доказательств в судах и даже для мошенничества (звонок с «голосом сына» с просьбой перевести деньги). По оценке одного из выступающих, в 2025 году количество обращений в полицию по фактам дипфейк-мошенничества выросло в 4 раза по сравнению с предыдущим годом.
Прозвучало предложение ввести оборотные штрафы для соцсетей и видеоплатформ, которые не маркируют дипфейки. Однако эксперты предупредили, что идеальная техническая детекция невозможна: хороший дипфейк отличить от реальной записи почти нереально. Поэтому ставку нужно делать на личную ответственность распространителя: если вы публикуете видео с голосом публичного человека, вы обязаны доказать его подлинность, иначе — презумпция дипфейка с обращением бремени доказывания.
Авторское право и обучение нейросетей: механизм opt-out
Один из самых острых споров разгорелся вокруг использования произведений (текстов, изображений, музыки, кода) для обучения больших языковых моделей. Правообладатели — издательства, фотобанки, блогеры — заявляют, что нейросети «съедают» их интеллектуальную собственность без разрешения и без выплаты вознаграждения. Разработчики возражают: без массового обучения модели не будут конкурентоспособны, а добровольное лицензирование каждого произведения сделает процесс невозможным.
Компромиссное предложение, поддержанное большинством участников, — ввести механизм opt-out («право отказа»). Автор или правообладатель может через открытый публичный реестр заявить о запрете использования своих произведений для обучения ИИ. Технологические компании обязаны будут проверять этот реестр перед формированием датасетов. За нарушение запрета — крупные штрафы, например, 500 000 рублей за каждый факт использования. «Это не идеальное решение, но оно даёт правовую определённость. Автор решает сам: участвовать в “цифровом коммунизме” или остаться в стороне», — прокомментировал один из разработчиков.
Конфликт интересов: учёные хотят данных, юристы — тишины
Дискуссия выявила глубинный конфликт между научно-исследовательским сообществом и практикующими юристами. Учёные-разработчики нейросетей заинтересованы в максимально широком доступе к данным: чем больше текстов, изображений и кода, тем качественнее модель. Они считают чрезмерные ограничения угрозой технологическому суверенитету. Юристы, напротив, требуют жёстких рамок, чтобы защитить клиентов от ошибок алгоритмов и от разглашения конфиденциальной информации.
«Мы не противники прогресса, — заявил представитель адвокатской палаты. — Но когда нейросеть, обученная на миллионах судебных решений, “придумывает” прецедент, это не технический курьёз, это профессиональная катастрофа. Учёные должны создавать модели с верифицируемыми источниками, а не чёрные ящики».
Практические выводы: как бизнесу и юристам защититься уже сейчас
По итогам круглого стола его модераторы пообещали подготовить резолюцию с конкретными рекомендациями для Минцифры, Минэкономразвития и профильных комитетов Госдумы. Пока же участники дали практические советы тем, кто уже использует ИИ в работе:
— Закрепить правило «человек в цикле» для любых критически важных решений, принимаемых при участии нейросети. Автоматическая выдача должна быть лишь черновиком.
— Страховать профессиональную ответственность с учётом рисков «галлюцинаций» ИИ. Обычные страховки могут не покрывать убытки от алгоритмических ошибок.
— Внимательно читать лицензионные соглашения при использовании готовых моделей (ChatGPT, YandexGPT, GigaChat и др.). Многие разработчики прямо отказываются от ответственности за любой вред, причинённый их ИИ.
— Проводить регулярный аудит используемых нейросетей, особенно на предмет дискриминационных перекосов (по возрасту, полу, национальности).
— Обучать сотрудников критическому восприятию результатов ИИ, не подменяя профессиональную экспертизу автоматической выдачей.
Что дальше: законодательные перспективы
Обсуждение в ТПП РФ показало, что ни бизнес, ни юристы, ни разработчики не ждут принятия жёсткого «закона об ИИ» в ближайшие месяцы. Слишком много нерешённых технических и этических вопросов. Однако первые контуры будущего регулирования уже просматриваются: это обязанность маркировать дипфейки, право на объяснение решений ИИ (особенно в банках и госуслугах), механизм opt-out для авторских прав и, возможно, разделённая ответственность за вред, причинённый алгоритмическими ошибками.
Пока же главный ответ на вопрос «кто ответит за ошибку ИИ» остаётся прежним: тот, кто подписал документ. Но уже ясно, что это не финальная, а переходная формула. Чем умнее становятся машины, тем сложнее будет доказывать, что человек должен был предвидеть их «галлюцинации». Дискуссия продолжается, и следующие круглые столы в ТПП РФ обещают быть не менее жаркими.