29.08.2024
Ежемесячный американский журнал Wired обнаружил, что системы единого входа от нескольких крупных технологических компаний были включены в генераторы дипфейков. Discord и Apple начали удалять некоторые учетные записи разработчиков. Google, Apple и Discord, позволяют людям быстро регистрироваться на вредоносных сайтах «раздевания», которые используют ИИ для удаления одежды с реальных фотографий, чтобы жертвы выглядели «голыми» без их согласия. Более дюжины таких сайтов-дипфейков уже несколько месяцев используют кнопки входа от технологических компаний. Тем самым Google, Apple и Discord, способствуют быстрому доступу пользователей к таким вредоносным сайтам. На протяжении нескольких месяцев более десятка таких сайтов использовали системы авторизации от этих компаний, что позволяло пользователям легко регистрироваться на подобных ресурсах. Анализ, проведенный изданием WIRED, выявил 16 крупнейших сайтов, занимающихся созданием поддельных «обнаженных» изображений, которые использовали инфраструктуру авторизации через Google, Apple, Discord, Twitter, Patreon и Line. Эта интеграция создавала иллюзию легитимности таких сайтов, что позволяло пользователям быстро создавать учетные записи и заниматься генерацией изображений. Число сайтов, создающих интимные изображения без согласия, значительно выросло с появлением генеративного ИИ. Особенно тревожно, что подобные технологии стали активно использоваться подростками, создающими изображения своих сверстников. Несмотря на очевидность проблемы, крупные технологические компании не торопятся предпринимать меры для борьбы с такими сайтами, которые легко находятся через поисковые системы, активно продвигаются через рекламу в социальных сетях и даже попадают в магазины приложений. Системы авторизации, использующиеся на этих сайтах, позволяют пользователям регистрироваться через свои существующие аккаунты. Google присутствовал на 16 таких сайтах, Discord – на 13, Apple – на шести. После обращения WIRED представители некоторых компаний сообщили о том, что приняли меры по удалению учетных записей разработчиков, связанных с этими сайтами, однако другие компании не дали комментариев или отказались обсуждать конкретные сайты. Боты и веб-сайты, которые создают несогласованные интимные изображения женщин существуют уже много лет, и их число возросло с появлением генеративного ИИ. Правоохранительные органы и общественные организации продолжают бороться с такими сайтами, однако проблема по-прежнему остается актуальной. Призыв к более жесткому регулированию и ограничению доступа к таким технологиям со стороны технологических гигантов звучит все громче, но на данный момент большинство мер предпринимается только после широкого освещения проблемы в СМИ. Неясно, сколько людей использовали методы входа, и большинство веб-сайтов также позволяют людям создавать учетные записи, используя только адрес электронной почты. Однако из рассмотренных веб-сайтов большинство реализовали API входа более чем одной технологической компании, причем наиболее широко используется Sign-In With Google. При выборе этой опции подсказки от системы Google сообщают, что веб-сайт получит имя, адрес электронной почты, языковые предпочтения и фотографию профиля пользователя.
Из-за внедрения дипфейков в культурное поле люди могут забыть, что такое утрата, а молодые артисты – остаться невостребованными, раз можно сгенерировать кого угодно. На это обратили внимание во время заседания комитета Государственной Думы по культуре. Сейчас ведется разработка законопроекта, который бы мог регулировать понятие дипфейк, так что российский закон о дипфейках еще не принят. Пока что возникающие споры можно регулировать авторским правом, если речь о кино или рекламе, но в законе нужно учесть этический аспект. В США проблему дипфейков в кино обсуждают уже давно – в прошлом году она послужила одной из причин для забастовки Гильдии актеров. В США после забастовок закон придумали быстро, но пока не приняли, – он называется No Fakes. В его основе лежит запрет на создание цифровой копии человека без его согласия. Во многом он подготовлен для актеров и певцов, потому что в нем есть исключения для новостей, рекламы и байопиков. По задумке, закон действует на протяжении всей жизни человека, а также 70 лет после его смерти. После истечения этого срока использовать образ будет нельзя – и даже у родственника не будет права это разрешить. Пока неизвестно, примет ли Сенат законопроект, тем не менее, Бюро по авторским правам предупредило, что федеральный закон для борьбы с технологией искусственного интеллекта deepfake срочно необходим, поскольку одно только авторское право не обеспечивает достаточной защиты.