Menschliche Aufsicht ist ein wichtiger Bestandteil der Anforderungen an Hochrisiko-KI-Systeme im EU AI Act. Die Verordnung gilt grundsätzlich seit dem 2. August 2024, wird jedoch schrittweise anwendbar. Viele Vorschriften greifen ab dem 2. August 2026. Unternehmen sollten deshalb frühzeitig klären, wie sie Aufsicht und Kontrolle ihrer KI-Systeme organisieren.
Welche Maßnahmen erforderlich sind, hängt von der Risikoeinstufung des Systems und von der jeweiligen Rolle des Unternehmens ab. Diese Faktoren bestimmen, welche Pflichten und Kontrollprozesse relevant werden.
Menschliche Aufsicht im EU AI Act dokumentieren
Da der EU AI Act einen risikobasierten Ansatz verfolgt, gelten nicht für alle KI-Systeme dieselben Anforderungen. Besonders umfangreich sind die Vorgaben für Hochrisiko-KI. Unternehmen sollten zunächst erfassen, welche KI-Systeme sie verwenden. Zweck, Einsatzbereich und verantwortliche Personen bilden dabei wichtige Grundlagen für die weitere Kontrolle.
Risikomanagement und Datenqualität einbeziehen
Bei Hochrisiko-KI-Systemen ist ein Risikomanagementsystem vorgesehen. Anbieter müssen relevante Risiken identifizieren, bewerten und geeignete Maßnahmen vorsehen. Auch die Qualität der Daten ist zu berücksichtigen. Abhängig vom jeweiligen System gelten Anforderungen für Trainings-, Validierungs- und Testdatensätze.
Kontrollschritte und Eskalationswege festlegen
Hochrisiko-KI-Systeme müssen technische Protokollierung ermöglichen, damit relevante Vorgänge im Betrieb nachvollziehbar sind. Für die menschliche Aufsicht sollten Unternehmen konkret festlegen, wer zuständig ist, welche Kontrollen durchgeführt werden und wann eine Eskalation erforderlich ist. Betreiber eines Hochrisiko-Systems müssen außerdem ihre spezifischen Vorgaben beachten und das System insbesondere entsprechend der bereitgestellten Gebrauchsanweisung nutzen.
FAQ zum EU AI Act
Warum ist menschliche Aufsicht bei KI wichtig?
Der EU AI Act verlangt für Hochrisiko-KI-Systeme geeignete Maßnahmen zur menschlichen Aufsicht.
Gilt diese Anforderung für jedes KI-System gleich?
Nein. Die Anforderungen richten sich insbesondere nach der Risikokategorie und der Rolle des Unternehmens.
Was sollte zur Aufsicht dokumentiert werden?
Unternehmen sollten Zuständigkeiten, Kontrollschritte und Eskalationswege nachvollziehbar festlegen.
Welche Rolle spielt die technische Protokollierung?
Sie soll dazu beitragen, relevante Vorgänge während des Betriebs eines Hochrisiko-KI-Systems nachvollziehbar zu halten.
Fazit
Menschliche Aufsicht sollte nicht isoliert betrachtet werden. Sie gehört gemeinsam mit Risikomanagement, Datenqualität und Protokollierung zu einer strukturierten KI-Governance. Klare Zuständigkeiten und dokumentierte Kontrollwege erleichtern es, die relevanten Anforderungen des EU AI Acts in Unternehmensprozesse einzubinden.
Hinweis: Dieser Beitrag wurde mit Unterstützung von künstlicher Intelligenz erstellt und fachlich redaktionell geprüft.
Schreibe einen Kommentar