KI-Governance ist ein Satz von Regeln, Rollen und Prozessen, mit dem eine Organisation sicherstellt, dass sie künstliche Intelligenz verantwortungsvoll, sicher und rechtmäßig nutzt. Mit dem Inkrafttreten des EU AI Act ist sie nicht mehr nur gute Praxis, sondern auch rechtliche Pflicht.
Der EU AI Act in Kürze
Die Verordnung (EU) 2024/1689 über künstliche Intelligenz ist am 1. August 2024 in Kraft getreten und gilt stufenweise:
- seit dem 2. Februar 2025 – verbotene KI-Praktiken und die Pflicht zur KI-Kompetenz des Personals;
- seit dem 2. August 2025 – Regeln für KI-Modelle mit allgemeinem Verwendungszweck und Governance;
- ab dem 2. August 2026 – der Großteil der Anforderungen, einschließlich derer für Hochrisikosysteme, wobei für einige Kategorien längere Fristen gelten, die von den EU-Institutionen angepasst werden können.
Die Verordnung teilt KI-Systeme nach Risiko ein – unannehmbar (verboten), hoch, begrenzt (Transparenzpflichten) und minimal. Ihre Pflichten hängen davon ab, ob Sie Anbieter eines KI-Systems oder Betreiber (eine Organisation, die es nutzt) sind.
Was wir tun
Bestandsaufnahme und KI-Register
Wir erfassen alle KI-Systeme und -Tools in der Organisation – einschließlich der „versteckten KI“ in gekaufter Software und der Tools, die Mitarbeiter eigenständig nutzen – und beschreiben sie in einem Register.
Risikoeinstufung
Für jedes System bestimmen wir Ihre Rolle und die Risikostufe nach dem EU AI Act sowie die daraus folgenden Pflichten.
Richtlinie zur KI-Nutzung
Verständliche Regeln für Mitarbeiter: erlaubte Tools, verbotene Daten, Prüfung der Ergebnisse, Transparenz gegenüber Kunden, Verantwortlichkeiten.
Risikoregister
Die Risiken der KI-Nutzung – Genauigkeit, Verzerrung, Vertraulichkeit, Sicherheit, Anbieterabhängigkeit – mit Maßnahmen und Verantwortlichen, regelmäßig aktualisiert.
Folgenabschätzungen
Datenschutz-Folgenabschätzung (DSFA) nach DSGVO und, wo zutreffend, Grundrechte-Folgenabschätzung.
KI-Kompetenz
Schulungen, die die Anforderung von Artikel 4 der Verordnung erfüllen – zugeschnitten auf die Rolle jedes Mitarbeiters.
Aufsicht durch die Geschäftsleitung
Quartalsberichte an die Leitung: welche KI eingesetzt wird, welche Risiken, Vorfälle und Nutzen bestehen.
Unsere Arbeit ist technische und organisatorische Beratung. Für Rechtsgutachten arbeiten wir mit Ihrem Anwalt oder mit Partnerkanzleien zusammen.
Was die Leistung umfasst
KI-Register
Alle KI-Systeme und -Tools an einem Ort.
Risikoeinstufung
Ihre Rolle und Pflichten nach dem EU AI Act.
Richtlinien
Verständliche Regeln für die KI-Nutzung.
Risikoregister
Risiken, Maßnahmen und Verantwortliche.
KI-Kompetenz
Schulungen nach Artikel 4 der Verordnung.
Berichte an die Leitung
Quartalsweise Aufsicht und KPI.
So läuft die Zusammenarbeit ab
- 1
Schnellbewertung
Wo Sie bezüglich EU AI Act und DSGVO stehen.
- 2
Bestandsaufnahme
Register der KI-Systeme und Daten.
- 3
Richtlinien und Risiken
Regeln, Einstufung, Risikoregister.
- 4
Schulung
KI-Kompetenz für alle Mitarbeiter.
- 5
Pflege
Regelmäßige Überprüfung und Berichte.
Technologien und Tools
- EU AI Act (Verordnung (EU) 2024/1689)
- DSGVO
- ISO/IEC 42001
- NIST AI RMF
- DSFA
Häufig gestellte Fragen
Betrifft uns der EU AI Act, wenn wir nur ChatGPT nutzen?
Ja – als Betreiber haben Sie mindestens die Pflicht zur KI-Kompetenz. Weitere Pflichten hängen vom Einsatzzweck ab; etwa Personalauswahl oder Bonitätsbewertung gelten als hohes Risiko.
Welche Sanktionen drohen?
Die Verordnung sieht erhebliche Bußgelder vor, abhängig von der Art des Verstoßes und der Größe der Organisation. Wichtiger noch: Konformität senkt die realen Risiken für das Unternehmen.