Маркировка изображений и запрет на использование биометрии: Европарламент принял Акт об ИИ

Европейский парламент сегодня во время пленарного заседания в Страсбурге принял Акт, регулирующий правила в сфере искусственного интеллекта (Artificial Intelligence Act). Об этом сообщается на сайте Европарламента.

За принятие этих новых регуляторных правил проголосовали 523 депутата Европарламента, 46 – «против», еще 49 – воздержались.

«Главной целью документа является защита фундаментальных прав, демократии, верховенства права и устойчивости окружающей среды от рисков, связанных с ИИ (искусственным интеллектом), и ускорить инновации и обеспечить ведущую роль Европы в этой сфере. Эти регуляторные правила вводят обязательства по использованию ИИ на основе его потенциальных рисков», — говорится в документе.

Новые правила запрещают использование некоторых программ ИИ, которые могут угрожать правам человека, включая определенные категории биометрических систем, массированную идентификацию лиц с использованием камер наблюдения для создания соответствующих баз данных.

Запрещена фиксация эмоциональных реакций на рабочих местах и в школах, система фиксации социального рейтинга, «интеллектуальные» полицейские действия, которые базируются исключительно на составлении профиля личности и оценке его личных характеристик. Запрещено использовать искусственный интеллект для манипулирования поведением людей или эксплуатации их уязвимостей.

Правоохранителям также запрещено использование биометрических систем идентификации, за исключением особых и четко определенных случаев, например, для поиска исчезнувших лиц или для предотвращения террористических атак.

Предусматривается введение четких обязательств и ограничений для функционирования систем на основе ИИ в других сферах, например в функционировании критической инфраструктуры, в системе образования, занятости, частных и государственных услуг, включая здравоохранение и банковское обслуживание. Некоторые ограничения налагаются также на использование ИИ в некоторых правоохранительных системах и в правосудии, в структурах, вовлеченных в регулирование миграции, охраны границ, а также в избирательных системах, с точки зрения снижения риска возможных влияний на избирателей.

Все системы ИИ и связанные с ними продукты должны иметь четкую маркировку и прозрачность в использовании. Например, такая четкая маркировка должна иметь искусственные или измененные изображения, аудио- и видеоконтент (так называемые deepfakes).

В то же время на уровне стран-членов должны быть созданы регуляторные органы, которые будут способствовать инновациям в сфере ИИ на уровне малых и средних предприятий и проводить соответствующие тренинги для их персонала в обращении с ИИ до того, как произведенные с его помощью продукты или услуги будут попадать на рынок.

На этом этапе принятые регуляторные нормы проходят правовую экспертизу и должны быть утверждены на уровне Совета ЕС. Они вступят в силу через 20 суток после обнародования в Официальном журнале ЕС.