Hochrisiko-KI-Systeme: was als hochriskant gilt und was dann zu tun ist.
Die meisten Pflichten der KI-Verordnung (EU AI Act) betreffen Hochrisiko-KI-Systeme. Welche Systeme dazu zählen, hängt vom Zweck ab, nicht von der Technik. Dieser Ratgeber zeigt die Bereiche aus Anhang III, die Ausnahmen, die Pflichten für Anbieter und Betreiber und die Fristen.
Stand: 28. Oktober 2026 · keine Rechtsberatung
Das Wichtigste in Kürze
- Ein KI-System ist hochriskant, wenn es als Sicherheitsbauteil eines regulierten Produkts dient (Anhang I) oder in einem der acht Bereiche aus Anhang III eingesetzt wird, etwa Beschäftigung, Bildung oder Kreditwürdigkeit.
- Systeme aus Anhang III sind ausnahmsweise nicht hochriskant, wenn sie kein erhebliches Risiko bergen, etwa bei einer eng begrenzten Verfahrensaufgabe (Art. 6 Abs. 3). Führt ein System ein Profiling natürlicher Personen durch, gilt die Ausnahme nie.
- Anbieter tragen die meisten Pflichten: Risikomanagement, Dokumentation, Protokollierung, menschliche Aufsicht und Konformitätsbewertung. Betreiber nutzen das System nach Anleitung, sorgen für Aufsicht und bewahren Protokolle, soweit sie ihrer Kontrolle unterliegen, mindestens sechs Monate auf.
- Die Pflichten gelten nach dem Digital Omnibus ab 2. Dezember 2027 (Anhang III) und 2. August 2028 (Anhang I).
Was „hochriskant“ in der KI-Verordnung bedeutet.
Die KI-Verordnung ordnet KI-Systeme nach ihrem Risiko. Verbotene Praktiken sind untersagt, für bestimmte Systeme gelten Transparenzpflichten, und für Hochrisiko-KI-Systeme gelten die strengsten Anforderungen. Hochriskant wird ein System auf zwei Wegen:
Weg 1: Produkte (Anhang I)
Das KI-System ist Sicherheitsbauteil eines Produkts oder selbst ein Produkt, das unter EU-Produktrecht eine Prüfung durch Dritte braucht, etwa Maschinen oder Medizinprodukte.
Weg 2: Bereiche (Anhang III)
Das KI-System wird für einen Zweck aus einem der acht Bereiche in Anhang III eingesetzt, etwa für die Auswahl von Bewerbern oder die Prüfung der Kreditwürdigkeit.
Zweck statt Technik
Ob ein System hochriskant ist, hängt davon ab, wofür es bestimmt ist. Dasselbe Sprachmodell kann in einem Einsatz hochriskant sein und in einem anderen nicht.
Die Pflichten für Hochrisiko-Systeme gelten ab 2. Dezember 2027 (Anhang III) und ab 2. August 2028 (Anhang I).
KI-Verordnung: aktueller Stand →Hochrisiko-KI-Systeme: die acht Bereiche aus Anhang III.
| Bereich | Beispiele für genannte Zwecke |
|---|---|
| 1. Biometrie | biometrische Fernidentifizierung, Kategorisierung nach sensiblen Merkmalen, Emotionserkennung (soweit zulässig) |
| 2. Kritische Infrastruktur | Sicherheitsbauteile für digitale Infrastruktur, Straßenverkehr, Wasser, Gas, Wärme, Strom |
| 3. Bildung | Zugang und Zulassung, Bewertung von Lernergebnissen, Überwachung bei Prüfungen |
| 4. Beschäftigung | Auswahl von Bewerbern, Entscheidungen über Beförderung oder Kündigung, Aufgabenzuweisung, Leistungsbewertung |
| 5. Grundlegende Dienste | Anspruch auf öffentliche Leistungen, Kreditwürdigkeit, Risiko und Preis bei Lebens- und Krankenversicherungen, Notrufe |
| 6. Strafverfolgung | bestimmte Bewertungen und Analysen durch Behörden (soweit zulässig) |
| 7. Migration und Grenzen | Risikobewertungen, Prüfung von Anträgen auf Asyl, Visum oder Aufenthalt (soweit zulässig) |
| 8. Justiz und Demokratie | Unterstützung von Justizbehörden bei Recherche und Auslegung, Beeinflussung von Wahlen |
Die Tabelle fasst Anhang III zusammen. Maßgeblich ist der genaue Wortlaut; die EU-Kommission kann die Liste ändern.
Pflichten für Anbieter und Betreiber.
Die KI-Verordnung unterscheidet, wer ein System entwickelt und in Verkehr bringt (Anbieter), und wer es in eigener Verantwortung nutzt (Betreiber). Die meisten Pflichten liegen beim Anbieter.
| Zeitpunkt | Nutzer | Aktion |
|---|---|---|
| 24.09. 09:14 | a.weber | Frage gestellt |
| 24.09. 08:52 | a.weber | Quelle angezeigt |
| 23.09. 17:30 | p.neumann | Sprachmodell gewechselt |
| 23.09. 11:05 | a.weber | Löschfrist geändert |
| Pflicht | Anbieter | Betreiber |
|---|---|---|
| Risikomanagement und Daten-Governance | ja (Art. 9, 10) | Eingabedaten relevant halten (Art. 26) |
| Technische Dokumentation | ja (Art. 11) | – |
| Protokollierung | automatische Protokolle ermöglichen (Art. 12) | Protokolle mindestens sechs Monate aufbewahren (Art. 26) |
| Menschliche Aufsicht | ermöglichen (Art. 14) | fachkundige Personen benennen (Art. 26) |
| Konformitätsbewertung und Registrierung | ja (Art. 43, 49) | Behörden: Registrierung (Art. 26, 49) |
| Information | Gebrauchsanweisung (Art. 13) | Arbeitnehmervertretung und betroffene Personen informieren (Art. 26) |
Wer als Betreiber ein Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder den Zweck eines Systems so ändert, dass es hochriskant wird, gilt selbst als Anbieter (Art. 25).
Ist mein KI-Assistent hochriskant?
Ein KI-Assistent ist nicht automatisch hochriskant, nur weil er ein Sprachmodell nutzt. Entscheidend ist, wofür Sie ihn einsetzen. Diese vier Fragen helfen bei der Einordnung; das Ergebnis halten Sie schriftlich fest.
1. Bereich
Fällt der Zweck in einen der acht Bereiche aus Anhang III, etwa die Auswahl von Personen oder Entscheidungen über Leistungen?
2. Ausnahme
Erledigt das System nur eine eng begrenzte Verfahrensaufgabe, verbessert es ein abgeschlossenes menschliches Ergebnis, erkennt es Entscheidungsmuster oder Abweichungen, ohne eine abgeschlossene menschliche Bewertung zu ersetzen oder zu beeinflussen, oder bereitet es eine Bewertung nur vor (Art. 6 Abs. 3)?
3. Profiling
Bewertet das System Personen anhand persönlicher Merkmale? Dann bleibt ein System aus Anhang III immer hochriskant.
4. Dokumentation
Wer ein System aus Anhang III für nicht hochriskant hält, muss als Anbieter diese Einschätzung dokumentieren, bevor es in Verkehr kommt, und das System registrieren (Art. 6 Abs. 4, Art. 49 Abs. 2).
Dies ist eine allgemeine Information, keine Rechtsberatung. Wir stufen weder RAGSuite noch Ihren Einsatz ein; prüfen Sie den konkreten Zweck mit Ihrer Rechtsberatung.
Was Sie jetzt tun können.
KI-Einsatz erfassen
Welche KI-Systeme nutzt Ihr Unternehmen, wofür und mit welchen Daten?
Zweck prüfen
Für jedes System klären, ob ein Bereich aus Anhang III berührt ist und ob eine Ausnahme greift.
Rolle klären
Sind Sie Anbieter, Betreiber oder beides? Danach richten sich die Pflichten.
Aufsicht und Protokolle
Verantwortliche benennen und festlegen, wo Protokolle liegen und wie lange.
Mitarbeitende einbinden
Arbeitnehmervertretung früh informieren und KI-Kompetenz aufbauen (Art. 4).
Fragen zu Hochrisiko-KI-Systemen.
Was ist ein Hochrisiko-KI-System?
Ein KI-System, das als Sicherheitsbauteil eines regulierten Produkts dient (Anhang I) oder für einen Zweck aus einem der acht Bereiche in Anhang III eingesetzt wird, etwa Beschäftigung, Bildung, Kreditwürdigkeit oder Zugang zu öffentlichen Leistungen. Für diese Systeme gelten die strengsten Pflichten der KI-Verordnung.
Ab wann gelten die Pflichten für Hochrisiko-KI?
Nach dem Digital Omnibus (Verordnung (EU) 2026/1744) gelten sie für Systeme aus Anhang III ab 2. Dezember 2027 und für Systeme in regulierten Produkten nach Anhang I ab 2. August 2028. Andere Teile der KI-Verordnung, etwa Verbote, KI-Kompetenz und Art. 50, gelten schon.
Welche Ausnahmen gibt es?
Ein System aus Anhang III ist nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt und zum Beispiel nur eine eng begrenzte Verfahrensaufgabe erledigt oder eine Bewertung nur vorbereitet (Art. 6 Abs. 3). Führt es ein Profiling von Personen durch, bleibt es immer hochriskant. Der Anbieter muss seine Einschätzung dokumentieren und das System registrieren.
Was müssen Betreiber tun?
Betreiber nutzen das System nach der Gebrauchsanweisung, benennen fachkundige Personen für die Aufsicht, achten auf passende Eingabedaten, überwachen den Betrieb, bewahren Protokolle, soweit sie ihrer Kontrolle unterliegen, mindestens sechs Monate auf und informieren Arbeitnehmervertretung und Betroffene. Behörden müssen das System zusätzlich registrieren. Öffentliche Stellen und bestimmte Betreiber, etwa bei Kredit und Versicherung, prüfen außerdem die Folgen für Grundrechte (Art. 27).
Ist ein KI-Chatbot hochriskant?
Nicht automatisch. Ein Chatbot, der Fragen aus Dokumenten beantwortet, ist in Anhang III nicht als Zweck genannt. Wird er aber etwa zur Auswahl von Bewerbern oder zur Entscheidung über Leistungen eingesetzt, kann er hochriskant sein. Für Chatbots gilt unabhängig davon die Transparenzpflicht nach Art. 50. Dies ist keine Rechtsberatung.
Wissen nutzen, Pflichten im Blick.
Stefan zeigt Ihnen, wie Sie RAGSuite im eigenen Netz betreiben, mit Rollen und vollständigem Audit-Log in Enterprise.