В апреле 2021 года Еврокомиссия предложила ограничить использование ИИ с «высокими рисками» для общества. Речь идет о конкретных сферах применения, где технологии, по мнению ведомства, могут быть небезопасны для людей
Что случилось
Еврокомиссия предлагает рассмотреть законопроект, который ограничит использование систем распознавания лиц и других технологий на основе ИИ, которые представляют угрозу для защиты персональных данных и личных интересов граждан ЕС. Это самая масштабная среди подобных законодательных инициатив.
Все технологии, о которых идет речь, поделили по степеням риска:
- Недопустимо высокий риск. Сюда отнесли алгоритмы, которые манипулируют поведением и влияют на выбор в той или иной области. Например, система социального скоринга в Китае. Такие технологии в ЕС хотят запретить;
- Высокий риск. Это, например, ИИ-системы онлайн-биометрии; скоринг при найме сотрудников, при оценке результатов экзамена и в банках (например, при выдаче кредита). Сюда также относятся ИИ-разработки для предсказания преступлений и оценки показаний в суде, роботизированная хирургия и беспилотники. Их предлагается жестко контролировать и при необходимости ограничивать;
- Умеренный риск. Здесь речь идет о голосовых роботах и чат-ботах. Их разрешат использовать при условии, что пользователи будут точно знать, что общаются с ИИ, а не человеком;
- Минимальный риск. Сюда относят всевозможные спам-фильтры и игровые сервисы, которые пока никак не будут регулировать.
Исключение сделают для ИИ-решений, которые применяют в вооруженных силах, для обеспечения безопасности, предотвращения терактов, а также поиска пропавших детей и преступников.
Также Еврокомиссия предлагает ввести механизм, который позволял бы блокировать и те технологии, которые уже используются, но в процессе эксплуатации стали опасными. Например, системы распознавания лиц, которые изначально создавались для обеспечения безопасности, а теперь используются для политического преследования.
