Баланс между инновациями и защитой от рисков: в ЕС вступили в силу новые правила применения ИИ
В Евроcоюзе вступили в силу новые правила обращения с искусственным интеллектом (ИИ). Согласно Закону ЕС об ИИ (AI Act), с этого дня запрещены системы ИИ, представляющие «неприемлемые риски» для безопасности, здоровья или основных прав, за исключением случаев, связанных с «национальной безопасностью». Первый в мире подобный нормативный акт классифицирует все основанные на ИИ системы по уровню риска — от низкого до неприемлемого. Системы ИИ с высоким уровнем риска – например, в сфере критической инфраструктуры, занятости, здравоохранения или банковского дела - должны соответствовать ряду требований, чтобы быть допущенными на рынок ЕС. Для приложений с низким уровнем риска действуют лишь ограниченные обязательства по прозрачности и информированию.
Неприемлемый риск представляют системы искусственного интеллекта, которые могут быть использованы для целенаправленного воздействия на поведение людей и, таким образом, манипулирования ими. На них распространяется запрет, как и на «социальный скоринг» на основе искусственного интеллекта, то есть начисление баллов в соответствии с желаемым поведением. В манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей попадают, например, голосовые игрушки, которые побуждают детей к опасному поведению.
В эту же категорию входят автоматизированные «роботизированные звонки» (Robo-Calls), которые могут использоваться для мошенничества в отношении пожилых людей. Распознавание лиц в общественных местах, в том числе с помощью камер видеонаблюдения, также будет в принципе запрещено, но предусмотрены исключения: полиция и другие правоохранительные органы смогут использовать такую технологию для расследования преступлений, связанных с торговлей людьми и терроризмом. Со 2 февраля компании, разрабатывающие или использующие ИИ, должны будут оценивать уровень риска своих систем и принимать необходимые меры для их приведения в соответствие с законодательными требованиями. Согласно заявлению Еврокомиссии, цель нового регулирования - не только защита прав потребителей, но и обеспечение надлежащего использования ИИ. Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем «ИИ-компетенций».
Европейский регламент по искусственному интеллекту — это первый в мире всеобъемлющий свод правил по искусственному интеллекту. В мире со стремительно разворачивающейся революцией в сфере искусственного интеллекта он призван обеспечить баланс между инновациями и защитой от рисков, которые они могут нести.
ORIENT
