16.05.2022
Европейская комиссия намерена принять новый закон, который даст возможность выявлять в Интернете контент с насилием над малолетними. Если закон примут, то он от компаний, которые владеют социальными сетями и интернет-платформами, могут потребовать внедрять системы, отслеживающие запрещенные материалы. Еврокомиссия планирует принять новый закон, который позволит выявлять в Интернете контент с насилием над малолетними. Если закон будет принят, он позволит требовать от компаний, владеющих соцсетями и Интернет-платформами, внедрения систем, которые будут отслеживать запрещенные материалы. Согласно замыслу инициаторов проекта, изначально переписку пользователей будут проверять при помощи искусственного интеллекта, далее материалы, которые вызывают подозрение у робота, будут передавать на контроль специалистам. В Еврокомиссии подчеркнули, что только за год количество случаев, которые связаны с сексуальной эксплуатацией детей увеличилось более чем на 60 процентов, а в общей сложности за минувший год в Сети обнаружили порядка 85 миллионов фото- и видеодокументов с сексуальным насилием над детьми.
По задумке инициаторов проекта, изначально переписка пользователей будет проверяться с помощью искусственного интеллекта, а затем материалы, вызывающие подозрение у робота, будут передаваться на контроль специальным сотрудникам. В свою очередь в Еврокомиссии ответили, что будут препятствовать использованию системы не по назначению, поощряя только те варианты, которые в наименьшей степени способствуют нарушению конфиденциальности. Законопроект предполагает внедрение системы обнаружения контента CSAM – Child Sexual Abuse Material («материалы с сексуальным насилием над детьми»), представляющую собой базу готовых изображений, с которыми система будет сравнивать фото и видео из Интернета. В случае обнаружения совпадений материалы будут переданы человеку для окончательного анализа. Еврокомиссия полагает, что в случае принятия закона сбор информации будет четче и объемнее. Правила коснутся онлайн-сервисов, предлагающих услуги в ЕС: мессенджеров, интернет-провайдеров, магазинов приложений и хостингов.
Противники идеи считают, что система не застрахована от ошибок и может выявлять совсем не тот контент, на который её настроили. В один момент миллионы людей во всем мире утратят конфиденциальность общения в онлайн. Помимо этого, как считают некоторые, созданную технологию «обкатают» на детской порнографии, а затем нацелят на выявление, к примеру, оппозиционно настроенных людей. Система будет срабатывать, выявляя совсем не тот контент, на который она настроена, считают критики. Одновременно миллионы людей во всем мире лишатся конфиденциальности переписки. Существует мнение, что, созданный механизм «обкатают» на детской порнографии, а в дальнейшем перенацелят на выявление, например, оппозиционно настроенных граждан. Несмотря на положительные намерения экспертов, новые требования уже вызвали шквал критики. Главную угрозу специалисты видят в «тотальном наблюдении» за пользователями. Подобные обвинения в адрес корпораций уже звучали в прошлом году. Тогда Apple объявила о планах включить обнаружение материалов сексуального насилия над детьми в iCloud Photos и iMessage, но реализация была отложена из-за негативной реакции.
Только за 2021 год в мире было зафиксировано 85 млн фотографий и видео, на которых запечатлено сексуальное насилие над несовершеннолетними, сообщается в пресс-релизе Европейского союза. Отмечается, что по сравнению с 2020 годом число подтвержденных случаев сексуальной эксплуатации детей выросло на 64 %. Оценка числа таких преступлений в большей степени основана на добровольных сообщениях от сервисов, специализирующихся на эротическом и порнографическом контенте. Компании, обнаружившие сексуальное насилие над детьми в интернете, должны будут сообщить об этом в специально созданный Центр ЕС. Национальные органы могут обязать удалить контент, если файлы не были быстро удалены самими платформами. Также власти могут приказать провайдерам отключить доступ к фото и видео, которые размещены за пределами ЕС. Если компания всё же нарушит правила, ей грозит штраф в размере до 6 % от глобального годового оборота, при этом каждая страна ЕС сама принимает решение об объеме выплат.
Решения на базе искусственного интеллекта почти всегда имеют погрешности. В 2020 году было опубликовано любопытное исследование – 1000 фраз, которые неправильно распознаются голосовыми ассистентами и принимаются ими за обращение. Alexa, например, ошибочно отзывается на созвучные «election» («выборы») и «a letter» («письмо»), а Siri – на «a city» («город») и «hey Jerry» («эй, Джерри»). Более того, в попытке улучшить распознавание слов запись может быть расшифрована и проверена сотрудниками платформы, в результате – фрагменты личных разговоров попадают в журналы компаний. Политический советник организации EDRi Элла Якубовска в принципе полагает, что нынешние технологии пока не готовы для сложных миссий: «Только посмотрите, насколько изворотливы спам-фильтры. Они присутствуют в нашей электронной почте уже 20 лет, но сколько из нас всё еще получают спам на почту и пропускают настоящие письма? Это действительно показывает ограниченность технологий».