AI управлението (AI governance) е набор от правила, роли и процеси, с които организацията гарантира, че използва изкуствения интелект отговорно, сигурно и законосъобразно. С влизането в сила на EU AI Act то вече не е само добра практика, а и правно изискване.
EU AI Act накратко
Регламентът (ЕС) 2024/1689 за изкуствения интелект влезе в сила на 1 август 2024 г. и се прилага поетапно:
- от 2 февруари 2025 г. – забранени практики с AI и задължение за грамотност в областта на AI за персонала;
- от 2 август 2025 г. – правила за моделите с общо предназначение и управление;
- от 2 август 2026 г. нататък – основната част от изискванията, включително за високорисковите системи, като за някои категории сроковете са по-дълги и подлежат на актуализации от европейските институции.
Регламентът разделя AI системите по нива на риск – неприемлив (забранени), висок, ограничен (задължения за прозрачност) и минимален. Задълженията зависят от това дали сте доставчик на AI система или внедрител (организация, която я използва).
Какво правим
Инвентаризация и регистър на AI
Откриваме всички AI системи и инструменти в организацията – включително „скрития AI“ в купения софтуер и инструментите, които служителите ползват сами – и ги описваме в регистър.
Класификация на риска
За всяка система определяме ролята ви и нивото на риск по EU AI Act и какви задължения следват от това.
Политика за използване на AI
Разбираеми правила за служителите: разрешени инструменти, забранени данни, проверка на резултатите, прозрачност към клиентите, отговорности.
Регистър на рисковете
Рисковете от използването на AI – точност, пристрастност, поверителност, сигурност, зависимост от доставчик – с мерки и отговорници, актуализиран редовно.
Оценки на въздействието
Оценка на въздействието върху защитата на данните (DPIA) по GDPR и, където е приложимо, оценка на въздействието върху основните права.
Грамотност в областта на AI
Обучения, които изпълняват изискването на чл. 4 от регламента – съобразени с ролята на всеки служител.
Надзор от ръководството
Тримесечни отчети към управата: какво AI се използва, какви са рисковете, инцидентите и ползите.
Нашата работа е технически и организационен консултинг. За правни становища работим заедно с вашия юрист или с партньорски адвокатски кантори.
Какво включва услугата
Регистър на AI
Всички AI системи и инструменти на едно място.
Класификация на риска
Ролята ви и задълженията по EU AI Act.
Политики
Разбираеми правила за използване на AI.
Регистър на рисковете
Рискове, мерки и отговорници.
AI грамотност
Обучения по чл. 4 от регламента.
Отчети за ръководството
Тримесечен надзор и KPI.
Как протича работата
- 1
Бърза оценка
Къде сте спрямо EU AI Act и GDPR.
- 2
Инвентаризация
Регистър на AI системите и данните.
- 3
Политики и рискове
Правила, класификация, регистър на рисковете.
- 4
Обучение
AI грамотност за всички служители.
- 5
Поддържане
Редовен преглед и отчети.
Технологии и инструменти
- EU AI Act (Регламент (ЕС) 2024/1689)
- GDPR
- ISO/IEC 42001
- NIST AI RMF
- DPIA
Често задавани въпроси
Засяга ли ни EU AI Act, ако само използваме ChatGPT?
Да, като внедрител имате поне задължението за грамотност в областта на AI. Допълнителни задължения зависят от това за какво използвате AI – например в набирането на персонал или оценката на кредитоспособност рискът е висок.
Какви са санкциите?
Регламентът предвижда значителни глоби, които зависят от вида на нарушението и размера на организацията. По-важното е, че съответствието намалява реалните рискове за бизнеса.