Risikomanagement gehört zu den zentralen Themen des EU AI Acts, insbesondere beim Umgang mit Hochrisiko-KI-Systemen. Die Verordnung gilt grundsätzlich seit dem 2. August 2024, während ihre Vorschriften stufenweise anwendbar werden. Viele Regelungen greifen ab dem 2. August 2026 und sollten frühzeitig in Unternehmensprozesse eingeordnet werden.
Welche konkreten Kontrollen notwendig sind, hängt vor allem von der Risikokategorie des KI-Systems und der Rolle des Unternehmens ab. Eine belastbare Risikobetrachtung setzt deshalb zunächst Transparenz über die eingesetzten Systeme voraus.
Risikomanagement nach dem EU AI Act vorbereiten
Der EU AI Act folgt einem risikobasierten Ansatz. Während nicht alle KI-Systeme denselben Vorgaben unterliegen, bestehen für Hochrisiko-KI besonders umfangreiche Anforderungen. Unternehmen sollten dokumentieren, welche Systeme eingesetzt werden, welchen Zweck sie erfüllen, in welchen Bereichen sie genutzt werden und wer dafür verantwortlich ist.
Risiken identifizieren, bewerten und behandeln
Für Hochrisiko-KI-Systeme sieht der EU AI Act ein Risikomanagementsystem vor. Relevante Risiken müssen systematisch identifiziert und bewertet werden. Anschließend sind geeignete Maßnahmen vorzusehen. Auch die Datenqualität ist Teil der Betrachtung. Abhängig vom System gelten Anforderungen an Trainings-, Validierungs- und Testdatensätze.
Technische Protokolle und menschliche Aufsicht
Damit relevante Vorgänge im Betrieb nachvollzogen werden können, müssen Hochrisiko-KI-Systeme eine technische Protokollierung ermöglichen. Zusätzlich sind geeignete Maßnahmen für die menschliche Aufsicht vorgesehen. Unternehmen sollten Zuständigkeiten, Kontrollschritte und Eskalationswege klar definieren. Betreiber eines Hochrisiko-Systems müssen zudem die für sie geltenden Anforderungen beachten, insbesondere die Nutzung gemäß der bereitgestellten Gebrauchsanweisung.
FAQ zum EU AI Act
Seit wann gilt der EU AI Act?
Die Verordnung gilt grundsätzlich seit dem 2. August 2024. Viele Vorschriften werden jedoch erst ab dem 2. August 2026 anwendbar.
Für welche KI ist Risikomanagement besonders relevant?
Der EU AI Act sieht insbesondere für Hochrisiko-KI-Systeme ein Risikomanagementsystem vor.
Welche Daten sind bei der Kontrolle relevant?
Abhängig vom System bestehen Anforderungen an Trainings-, Validierungs- und Testdatensätze.
Was sollten Unternehmen organisatorisch festlegen?
Wichtig sind unter anderem Verantwortlichkeiten, Kontrollschritte und nachvollziehbare Eskalationswege.
Fazit
Ein systematisches Risikomanagement hilft dabei, technische und organisatorische Anforderungen zusammenzuführen. Unternehmen sollten ihre KI-Systeme erfassen, relevante Risiken bewerten und die vorgesehenen Kontrollen dokumentieren. So können Anforderungen des EU AI Acts strukturiert in bestehende Prozesse integriert werden.
Hinweis: Dieser Beitrag wurde mit Unterstützung von künstlicher Intelligenz erstellt und fachlich redaktionell geprüft.
Schreibe einen Kommentar