Hochrisiko-KI-Systeme stehen im EU AI Act besonders im Fokus. Die Verordnung gilt grundsätzlich seit dem 2. August 2024, wird aber in mehreren Stufen anwendbar. Viele Vorschriften greifen ab dem 2. August 2026. Für Unternehmen ist es deshalb wichtig, frühzeitig festzustellen, welche ihrer KI-Systeme betroffen sind.
Die erforderlichen Kontrollen ergeben sich nicht allein aus der verwendeten Technologie. Maßgeblich sind insbesondere die Einstufung des Systems sowie die Rolle, die das Unternehmen beim Einsatz oder bei der Bereitstellung der KI übernimmt.
Hochrisiko-KI: Welche Kontrollen verlangt der EU AI Act?
Der risikobasierte Ansatz des EU AI Acts führt dazu, dass unterschiedliche KI-Systeme unterschiedlichen Anforderungen unterliegen. Bei Hochrisiko-KI sind die Vorgaben besonders umfangreich. Unternehmen sollten deshalb zunächst dokumentieren, welche Systeme vorhanden sind, welchem Zweck sie dienen, wo sie eingesetzt werden und wer intern verantwortlich ist.
Risikomanagement für Hochrisiko-KI
Für Hochrisiko-KI-Systeme ist ein Risikomanagementsystem vorgesehen. Relevante Risiken sollen systematisch identifiziert und bewertet werden. Anschließend sind geeignete Maßnahmen vorzusehen. Auch die verwendeten Daten müssen berücksichtigt werden, denn abhängig vom System bestehen Anforderungen an Trainings-, Validierungs- und Testdatensätze.
Protokolle, Aufsicht und klare Zuständigkeiten
Technische Protokollierung ist ein weiterer wichtiger Bestandteil. Sie soll relevante Vorgänge während des Betriebs nachvollziehbar machen. Gleichzeitig verlangt der EU AI Act geeignete Maßnahmen zur menschlichen Aufsicht. Unternehmen sollten Verantwortliche benennen, Kontrollschritte definieren und Eskalationswege festlegen. Betreiber eines Hochrisiko-Systems müssen zudem ihre eigenen Vorgaben beachten, insbesondere die Nutzung nach der bereitgestellten Gebrauchsanweisung.
FAQ zum EU AI Act
Ist der EU AI Act erst seit August 2026 relevant?
Nein. Er gilt grundsätzlich bereits seit dem 2. August 2024. Die einzelnen Vorschriften werden jedoch zu unterschiedlichen Zeitpunkten anwendbar.
Was kennzeichnet die Kontrollen bei Hochrisiko-KI?
Für Hochrisiko-KI-Systeme gelten besonders umfangreiche Anforderungen, unter anderem an Risikomanagement, Daten, Protokollierung und menschliche Aufsicht.
Welche Informationen sollten erfasst werden?
Unternehmen sollten mindestens ihre KI-Systeme, deren Zweck und Einsatzbereich sowie verantwortliche Personen nachvollziehbar dokumentieren.
Sind Anbieter und Betreiber gleich verpflichtet?
Nein. Die konkreten Pflichten hängen von der jeweiligen Rolle des Unternehmens ab.
Fazit
Unternehmen mit Hochrisiko-KI-Systemen benötigen nachvollziehbare Strukturen für Governance und Kontrolle. Wer Systeme systematisch erfasst, Risiken bewertet und Zuständigkeiten dokumentiert, schafft eine bessere Grundlage, um die Anforderungen des EU AI Acts in bestehende Prozesse zu integrieren.
Hinweis: Dieser Beitrag wurde mit Unterstützung von künstlicher Intelligenz erstellt und fachlich redaktionell geprüft.
Schreibe einen Kommentar