Как понять, относится ли ваш продукт к “высокорисковым системам ИИ” и что с этим делать
Как понять, относится ли ваш продукт к “высокорисковым системам ИИ” и что с этим делать
Как понять, относится ли ваш продукт к “высокорисковым системам ИИ”— AI Act вводит строгие правила для систем искусственного интеллекта, которые могут повлиять на безопасность, права граждан и критические процессы. Если продукт классифицируется как высокорисковый, компания обязана выполнить расширенные требования — документацию, регистрацию, тестирование, мониторинг и управление рисками.
Jurisprudential Consulting Group помогает компаниям определить категорию ИИ-системы, пройти аудит и подготовиться к полному соответствию AI Act.
1. Классификация ИИ-систем
2. Аудит модели и процессов
3. Полный пакет документации под AI Act
Стоимость консультации от 250 евро
Высокорисковые системы ИИ — это категория, установленная Регламентом ЕС AI Act, к которой относятся решения, влияющие на безопасность, оценку жизненно важных параметров, права граждан или критически важные процессы.
Классификация — это ключевой шаг, который определяет, какие юридические обязательства необходимо внедрить в продукт, а какие — нет. Ошибка в определении категории ведёт к штрафам, невозможности вывода продукта на рынок ЕС и блокировке бизнес-операций.
1. Главное правило: сначала определить сценарий использования
AI Act не регулирует “алгоритм как таковой” — он регулирует конкретный use case, в котором модель применяется.
Например:
- один и тот же алгоритм может быть безопасным в рекомендательном сервисе;
- но станет высокорисковым, если его использовать для кредитного скоринга.
Поэтому оценка всегда идёт по функции, среде и влиянию результата на человека.
2. Когда система считается высокорисковой
AI Act определяет две основные группы high-risk:
A) ИИ, встроенный в продукцию, подлежащую сертификации CE
Если ИИ — часть продукции, которая уже сертифицируется по европейскому техрегламенту (например, медицинские устройства, машины, лифты, оборудование), система автоматически считается высокорисковой.
Примеры:
- диагностическое ПО в медицине,
- системы управления оборудованием,
- ИИ в транспортных средствах.
B) Самостоятельные ИИ-системы, влияющие на критические решения
Это ключевой список, который охватывает 90 % кейсов компаний:
- Кредитный скоринг, оценка клиентов, риск-модели
- Алгоритмы для найма, отбора, оценки сотрудников
- Системы в образовании: экзамены, тестирование, оценка знаний
- ИИ в правоохранительных и миграционных процессах
- Алгоритмы, определяющие доступ к социальным и госуслугам
- Системы для оценки надежности и безопасности пользователей в финтех-приложениях
- Алгоритмы, влияющие на критическую инфраструктуру (энергия, транспорт, связь)
Если продукт подпадает под один из этих пунктов, он считается high-risk, независимо от того, “умный” он или нет — важен эффект принятого решения.
3. Пограничные случаи: когда продукт может неожиданно попасть в high-risk
Компании часто ошибочно считают, что их продукт не “опасный”. Но в AI Act есть несколько зон риска:
1) Автоматизированные HR-решения
Даже простой scoring-алгоритм для резюме попадает в high-risk: он влияет на решение о трудоустройстве.
2) Финтех-продукты с элементами риск-оценки
KYC-скоринг → high-risk.
AML-алгоритмы → high-risk.
Оценка транзакционных рисков → high-risk.
3) Социальные алгоритмические модели
Льготы, социальные выплаты, медицинские назначения — любые модели, влияющие на доступ к услугам.
4) Алгоритмы модерации контента в крупных платформах
Если решения влияют на права пользователей — высокориск.
4. Чек-лист: как понять, high-risk ли ваш продукт
Отвечаем честно «да» или «нет»:
| Вопрос | Да | Нет |
|---|---|---|
| На ваш продукт распространяются другие регламенты ЕС? (медицина, транспорт, CE-маркировка) | ☐ | ☐ |
| Ваш ИИ принимает решения, влияющие на жизнь, здоровье или безопасность? | ☐ | ☐ |
| Алгоритм влияет на права человека (отказ, одобрение, фильтрация)? | ☐ | ☐ |
| Система используется государственными структурами или для госуслуг? | ☐ | ☐ |
| Система оценивает людей (скоринг, рейтинг, предсказание)? | ☐ | ☐ |
| Есть автоматическое назначение льгот, статусов, рисков? | ☐ | ☐ |
Если хотя бы один ответ “да” — продукт почти наверняка high-risk.
5. Что требуется, если продукт признан высокорисковым
Компании обязаны внедрить:
1. Управление рисками
Политики, процедуры, мониторинг.
2. Полная техническая документация
Алгоритм, данные, тесты, метрики, ограничения.
3. Качественный датасет
Отсутствие дискриминации, прозрачный процесс обучения.
4. Постоянный мониторинг модели
Включая реальную точность, ошибки, drift.
5. Регистрация в европейской базе
Все высокорисковые ИИ подлежат внесению в публичный EU-реестр.
6. Чёткое информирование пользователей
Риски, функции, ограничения и ответственность.
7. Аудит третьей стороной (в некоторых категориях)
Без выполнения этих этапов продукт нельзя выводить на рынок ЕС.
6. Что делать, если ваша система — не high-risk
Даже если продукт не попадает в high-risk, действуют мягкие, но обязательные требования:
- прозрачность (указание на использование ИИ);
- меры по защите данных;
- проведение базовой модерации рисков;
- соблюдение GDPR, ePrivacy и связанных актов.
Что делает Jurisprudential Consulting Group
Мы сопровождаем ИИ-проекты в ЕС и ОАЭ:
| Этап | Что выполняем |
|---|---|
| Классификация системы | определяем категорию риска по AI Act |
| Аудит модели | оцениваем данные, обучение, архитектуру |
| Документация | формируем пакет под регламент ЕС |
| Политики и процедуры | внедряем управление рисками |
| Регистрация | готовим все материалы для внесения в EU-реестр |
| Сопровождение | ежегодные проверки, обновления, мониторинг |
Работаем с ИТ-компаниями, финтех-проектами, маркетплейсами, стартапами и крупными корпоративными структурами.
Итог
AI Act делает рынок ИИ прозрачным и регулируемым.
Главный шаг для любой компании — понять, является ли её продукт высокорисковой системой. От этого зависят обязательства, стоимость внедрения и стратегические решения.
Мы классифицируем ваш продукт, подготовим технический и юридический пакет и обеспечим полное соответствие AI Act.