Искусственному интеллекту запретят отделять агнцев от козлищ

Евросоюз готовится запретить системы искусственного интеллекта (AI), используемые для массового наблюдения или ранжирования социального поведения. При этом предприятия, разрабатывающие AI, могут нарваться на штрафы в размере до 4% от совокупного дохода, если они проигнорируют новые правила, регламентирующие использование программных приложений.

Правила – часть законодательства, которое предложит Еврокомиссия – исполнительный орган блока. До опубликования проекта некоторые детали ещё могут измениться.

Предполагается, что предложение ЕС будет включать следующие правила:

• Системы AI, используемые для манипулирования поведением людей, использования информации об отдельных лицах или группах лиц, используемые для проведения социальной оценки или для неизбирательного наблюдения, будут запрещены в ЕС. Могут применяться некоторые исключения ради общественной безопасности.
• Системы удалённой биометрической идентификации, используемые в общественных местах, например, системы распознавания лиц, потребуют специального разрешения властей.
• Приложения AI, которые считаются «высокорисковыми», должны будут пройти проверку перед развёртыванием, чтобы власти могли убедиться в том, что системы нацелены на беспристрастный сбор данных, отслеживаемым способом и под контролем человека.
• AI с высоким уровнем риска будет относиться к системам, которые могут поставить под угрозу безопасность, жизнь или основные права человека, равно как доступные гражданам ЕС процессы – такие как беспилотные автомобили и удалённая хирургия, среди прочего.
• Некоторым компаниям будет разрешено проводить оценку самостоятельно, другие будут подвергаться проверкам со стороны третьих лиц. Сертификаты соответствия, выданные органами по оценке, будут действовать до пяти лет.
• Правила будут в равной степени применяться к компаниям, базирующимся как в ЕС, так и за рубежом.
• Государства – члены ЕС должны будут назначить органы по оценке для тестирования, сертификации и инспекции систем. Компании, которые разрабатывают запрещённые сервисы AI, предоставляют неверную информацию или отказываются сотрудничать с национальными властями, могут быть оштрафованы на сумму до 4% от общего дохода.

Согласно документу, правила не будут применяться к системам AI, используемым исключительно в военных целях.

Представители Еврокомиссии пока отказываются комментировать предлагаемые правила.

«Для нас важно на европейском уровне передать очень сильное послание и установить стандарты с точки зрения того, как далеко должны развиваться эти технологии, – сказал Драгош Тюдораче, независимый член Европарламента и глава Комитета по искусственному интеллекту. – Создание нормативной базы вокруг них – насущная необходимость, и хорошо, что Еврокомиссия шагает в этом направлении».

Искусственный интеллект начал проникать во все слои общества, от предложений покупок и голосовых помощников до решений, касающихся найма, страхования и правоприменения. ЕС намерен обеспечить прозрачность технологий, развёртываемых в Европе, поставив их под контроль человека и обеспечив соответствие высоким стандартам в области конфиденциальности пользователей.

Предлагаемые правила появляются в то время, когда ЕС пытается догнать США и Китай по внедрению искусственного интеллекта и других передовых технологий. Новые требования могут помешать технологическим компаниям в регионе конкурировать с иностранными конкурентами, если они откладывают выпуск продуктов из-за того, что их сначала нужно протестировать.

Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный канал на TamTam