Управление ИИ (AI governance) – это совокупность правил, ролей и процессов, с помощью которых организация обеспечивает ответственное, безопасное и законное использование искусственного интеллекта. С вступлением в силу европейского AI Act это уже не только хорошая практика, но и требование закона.
AI Act вкратце
Регламент (ЕС) 2024/1689 об искусственном интеллекте вступил в силу 1 августа 2024 года и применяется поэтапно:
- со 2 февраля 2025 года – запрещённые практики ИИ и обязанность обеспечить ИИ-грамотность персонала;
- со 2 августа 2025 года – правила для моделей общего назначения и управление;
- со 2 августа 2026 года и далее – большинство требований, включая требования к системам высокого риска, с более длительными сроками для отдельных категорий, которые могут уточняться европейскими институтами.
Регламент классифицирует ИИ-системы по уровню риска – неприемлемый (запрещены), высокий, ограниченный (обязанности прозрачности) и минимальный. Ваши обязанности зависят от того, являетесь ли вы поставщиком ИИ-системы или эксплуатантом (организацией, которая её использует).
Что мы делаем
Инвентаризация и реестр ИИ
Выявляем все ИИ-системы и инструменты в организации – включая «скрытый ИИ» в покупном ПО и инструменты, которыми сотрудники пользуются по собственной инициативе, – и описываем их в реестре.
Классификация рисков
Для каждой системы определяем вашу роль и уровень риска по AI Act, а также вытекающие обязанности.
Политика использования ИИ
Понятные правила для сотрудников: разрешённые инструменты, запрещённые данные, проверка результатов, прозрачность перед клиентами, ответственность.
Реестр рисков
Риски использования ИИ – точность, предвзятость, конфиденциальность, безопасность, зависимость от поставщика – с мерами и ответственными, регулярно обновляемый.
Оценки воздействия
Оценка воздействия на защиту данных (DPIA) по GDPR и, где применимо, оценка воздействия на основные права.
ИИ-грамотность
Обучение, отвечающее требованию статьи 4 Регламента, – с учётом роли каждого сотрудника.
Надзор со стороны руководства
Ежеквартальные отчёты совету директоров: какой ИИ используется, каковы риски, инциденты и выгоды.
Наша работа – техническое и организационное консультирование. Для юридических заключений мы работаем с вашим юристом или с партнёрскими юридическими фирмами.
Что входит в услугу
Реестр ИИ
Все ИИ-системы и инструменты в одном месте.
Классификация рисков
Ваша роль и обязанности по AI Act.
Политика
Понятные правила использования ИИ.
Реестр рисков
Риски, меры и ответственные.
ИИ-грамотность
Обучение по статье 4.
Отчёты руководству
Ежеквартальный надзор и KPI.
Как проходит работа
- 1
Быстрая оценка
Где вы находитесь относительно AI Act и GDPR.
- 2
Инвентаризация
Реестр ИИ-систем и данных.
- 3
Политика и риски
Правила, классификация, реестр рисков.
- 4
Обучение
ИИ-грамотность для всех сотрудников.
- 5
Поддержание
Периодические проверки и отчёты.
Технологии и инструменты
- AI Act (Регламент (ЕС) 2024/1689)
- GDPR
- ISO/IEC 42001
- NIST AI RMF
- DPIA
Часто задаваемые вопросы
Касается ли нас AI Act, если мы используем только ChatGPT?
Да – как эксплуатант вы как минимум обязаны обеспечить ИИ-грамотность. Другие обязанности зависят от применения: например, подбор персонала или оценка кредитоспособности относятся к высокому риску.
Какие предусмотрены санкции?
Регламент предусматривает значительные штрафы, которые зависят от вида нарушения и размера организации. Ещё важнее то, что соответствие снижает реальные риски для бизнеса.