Prüffelder
Was bei einem KI-System-Audit auf den Tisch gehört
Ein belastbares Audit folgt nicht nur einer Modellantwort. Es verbindet Zweck, Nutzer, Entscheidungen, Daten, technische Kontrollen und tatsächliche Auswirkungen. Welche Tiefe nötig ist, hängt von Rolle, Risiko und Kontext des Systems ab.
Wichtig: Der EU AI Act ist Recht; ISO/IEC 42001 ist eine freiwillig anwendbare Managementsystemnorm. Eine Zertifizierung nach ISO/IEC 42001 ersetzt keine rechtliche Prüfung und der EU AI Act schreibt nicht pauschal eine ISO-Zertifizierung vor.
1. Zweck und Scope
Welche Aufgabe erfüllt das System, wer nutzt es und welche Entscheidungen beeinflusst es?
2. Rollen und Governance
Wer verantwortet Auswahl, Freigabe, Änderungen, Überwachung und Abschaltung?
3. Risiko und Wirkung
Welche Personen, Prozesse und Rechte können betroffen sein – auch bei Fehlfunktion?
4. Daten und Modell
Woher stammen Daten, wie wird Qualität bewertet und welche Grenzen sind dokumentiert?
5. Kontrollen und Tests
Welche Prüfungen, Freigabekriterien, Sicherheitsmaßnahmen und Änderungsprozesse existieren?
6. Betrieb und Nachweis
Wie werden Leistung, Vorfälle, Nutzerfeedback, Eingriffe und Verbesserungen verfolgt?