15.06.2023
Депутаты Европейского парламента одобрили закон о регулировании искусственного интеллекта (ИИ), как следует из пресс-релиза на сайте Европарламента. За принятие документа проголосовали 499 депутатов, против – 28, воздержались 93 парламентария. Теперь окончательную редакцию закона парламент обсудит с Советом ЕС. Документ исходит из важности сохранения человеческого контроля за ИИ и запрета на использование опасных для человека систем. К ним относят те, что используют методы манипулирования или предназначаются для социальной оценки людей (их классификации по разным критериям: поведению, социальному статусу и личностным характеристикам). Особенно серьезные последствия AI Act может иметь для американских компаний и разработчиков, которые занимаются генеративными ИИ-моделями, такими как GPT-3 от OpenAI или BERT от Google, которые используются для генерации текста, изображений, звука и других форматов. Стоит отметить, что американские компании, которые предлагают свои модели через API или по модели open source, столкнутся с большими трудностями, поскольку AI Act содержит в себе несколько запретов. Еще закон запретит распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение сделают для расследования тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда. Системы распознавания эмоций людей нельзя будет использовать правоохранительным органам, любым работодателям, учебным заведениям и органам пограничного контроля. Отдельно оговаривается запрет прогностических систем полиции – это механизм, который использует ИИ для анализа больших объемов данных (фактов биографии человека, его местах нахождения или совершенных ранее преступлений) и выявляет потенциальных преступников или жертв преступлений. Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети). К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде. Еще в эту категорию включили системы, оказывающие влияние на мнение избирателей в политических кампаниях, и рекомендательные алгоритмы, которые используют социальные сети более чем с 45 млн пользователей. Закон предусматривает требования к разработчикам нейросетей. В работе они должны не допускать генерацию нелегального контента и сообщать о материалах, которые используют для обучения системы. Обладатели авторских прав на такие материалы могут подать иск, если выяснят, что разработчик незаконно обучал нейросеть на их контенте. Системы должны информировать пользователей о том, что данный контент сгенерировала нейросеть. Нарушителям нового закона будет грозить штраф до €10 млн и запрет на работу в Евросоюзе. Исключение сделают для исследователей искусственного интеллекта, чтобы поощрить инновации в области ИИ. Алекс Энглер, научный сотрудник Брукингского института по изучению политики ИИ, сказал, что AI Act привлекает внимание всего мира. Но он предупредил, что ни один закон не решит проблемы, которые представляет ИИ. По словам Энглера, «это будет десятилетия адаптации». Генеральный директор OpenAI Сэм Альтман был одним из самых активных сторонников государственного надзора за индустрией ИИ. Недавно он свидетельствовал перед Конгрессом во время слушаний, на которых он ясно заявил о своей убежденности в необходимости регулирования. Однако недавно Альтман также предостерег европейские регулирующие органы от чрезмерного регулирования.