ЕС принял первый в мире закон об ИИ! Чего ждать?

Основные положения закона включают запрет на использование определенных приложений на основе искусственного интеллекта, которые нарушают права граждан. Например, запрещается:

- биометрическая категоризация на основе конфиденциальных характеристик;

- нецелевое сканирование лица или извлечение изображений лиц из интернета с целью создания баз данных для распознавания;

- социальная оценка;
- распознавание эмоций на рабочих местах и в школах.

Также под запрет попадает манипулирование поведением людей и использование человеческой уязвимости. Это действительно серьезная и актуальная проблема. В нашей статье мы освещали тему последствий ИИ-партнерства.

Исключения для правоохранительных органов

Закон предусматривает ряд исключений. Все они касаются использования биометрических систем идентификации в режиме реального времени правоохранительными органами в строго регламентированных ситуациях. Например, для поиска пропавших безвести или предотвращения террористических угроз, при условии соблюдения всех необходимых мер безопасности и наличии соответствующих разрешений.

К высокорисковым относятся технологии ИИ, которые используются в:

• критической инфраструктуре;
• образовательной или профессиональной подготовке;
• частных и государственных услугах (здравоохранение, банки);
• правоохранительных действиях;
• управлении миграцией;
• совершении правосудия;
• демократических процессах и т.д.

Такие системы должны оценивать и уменьшать риски, вести журналы использования, быть прозрачными и точными, а также обеспечивать надзор со стороны человека.

Ограниченными считают риски, связанные с недостаточной прозрачностью использования ИИ. Например, людей следует уведомить о том, что они взаимодействуют с чат-ботом на базе ИИ, а поставщики должны будут обеспечить идентификацию контента, созданного искусственным интеллектом. Особенно это касается дипфейков, угрозу от которых мы также освещали.

Закон об искусственном интеллекте позволяет свободно использовать ИИ с минимальным риском. Сюда входят видеоигры с поддержкой ИИ или фильтры спама. Большинство систем ИИ, которые сейчас используются в ЕС, подпадают под эту категорию.

Надзор за соблюдением и реализацией Закона об искусственном интеллекте будет осуществлять Европейский офис по ИИ вместе с Комиссией. Также надзор будет способствовать инновациям и исследованиям в этой области.