В ЕС принят первый в мире закон, регулирующий ИИ

Европейский парламент принял исторический закон об искусственном интеллекте (ИИ), направленный на минимизацию рисков его использования. Закон запрещает определённые виды ИИ, включая "социальный рейтинг" и массовый сбор биометрических данных, и устанавливает строгие правила для высокорисковых систем. Гражданам предоставляется право на жалобы и объяснения от разработчиков ИИ. Компаниям, нарушающим закон, грозят штрафы до €35 млн или 7% годового оборота. Закон ожидает окончательного одобрения и должен вступить в силу в ближайшие годы, привнося в регулирование ИИ новый уровень прозрачности, ответственности и защиты прав граждан. Это первый в мире закон такого рода, что подчеркивается в официальном заявлении.

Ограничения и цели закона

Закон предусматривает категоризацию рисков и вводит жёсткие ограничения для высокорисковых систем ИИ. Это включает в себя создание баз данных для распознавания лиц из фотографий соцсетей, системы социального рейтинга и анализ видеозаписей для оценки психологического состояния работников и учащихся.

Минимизация социальных рисков

Закон запрещает некоторые виды использования ИИ, такие как создание "социального рейтинга" и массовый сбор биометрических данных. Он также требует маркировки искусственно созданных изображений и видеороликов.

Исключения и ограничения

Для некоторых запретов существуют исключения. Например, правоохранительные органы могут использовать биометрические системы в ограниченных случаях, но только с судебным разрешением.

Высокорисковые системы и их надзор

Для систем, представляющих серьезные угрозы, установлены строгие правила документирования и минимизации рисков. Особое внимание уделяется системам, влияющим на критическую инфраструктуру и демократические процессы.

Классификация ИИ-систем

Закон вводит классификацию ИИ-систем в зависимости от уровня риска для человека и общества. Сервисы с высоким риском подвергаются строгому контролю со стороны администраторов.

Маркировка Контента

Контент, созданный с помощью ИИ, должен быть отмечен соответствующим образом. Это касается текстов, изображений, аудио и видео, включая "дипфейки".

Создание Специализированных Учреждений

Предусматривается создание специализированных учреждений на национальном и европейском уровнях, которые будут помогать IT-компаниям и разработчикам адаптировать свои продукты к новым правилам.

Права граждан и обязанности разработчиков

Закон предоставляет гражданам право на жалобы по поводу использования ИИ и требует объяснений от разработчиков. Производители высокорисковых систем обязаны соблюдать нормы безопасности и прозрачности.

Штрафы и перспективы для разработчиков

Компании, нарушающие закон, могут быть оштрафованы на сумму до €35 млн или 7% годового оборота. Разработчики ИИ-решений могут изменить юрисдикцию, чтобы избежать ограничений.

Поддержка и Противодействие

Законопроект получил поддержку 532 парламентариев, однако 46 выступили против, а 49 воздержались от голосования.

Процесс вступления закона в силу

Закон должен пройти проверку и одобрение Советом Европы. Его полные положения начнут действовать через два года после публикации, а некоторые запреты — через полгода или год. Обязанности для производителей высокорисковых систем станут обязательными через три года.

Этот закон является важным достижением в области регулирования использования искусственного интеллекта. Он призван обеспечить защиту прав граждан и минимизировать потенциальные риски, связанные с применением ИИ. Установление четких правил и запретов не только способствует безопасному использованию технологий, но и создает основу для доверия общества к цифровым инновациям.