hochrisiko-risikomanagementsystem-art-9

---
name: hochrisiko-risikomanagementsystem-art-9
description: "Pflichten zum Risikomanagementsystem fuer Hochrisiko-KI-Anbieter nach Art. 9 KI-VO: kontinuierlicher iterativer Prozess Risikoidentifikation Risikoabschaetzung Risikominderung Restrisiko-Bewertung. Prueffragen und typische Luecken."
---

# Risikomanagementsystem — Art. 9 KI-VO

## Zweck

Art. 9 KI-VO verpflichtet Anbieter von Hochrisiko-KI-Systemen, ein Risikomanagementsystem einzurichten und zu betreiben. Es ist kein einmaliger Akt, sondern ein kontinuierlicher, iterativer Prozess, der den gesamten Lebenszyklus des KI-Systems begleitet.

## Anforderungen an das Risikomanagementsystem

### Merkmal 1 — Kontinuierlicher iterativer Prozess

Das Risikomanagementsystem muss über den gesamten Lebenszyklus des KI-Systems aufrechterhalten und aktualisiert werden. Es beginnt vor dem Inverkehrbringen und endet nicht mit der Markteinführung.

**Prüffragen:**
- Gibt es einen formalen Prozess, der regelmäßig Risiken des Systems bewertet?
- Wird der Prozess bei wesentlichen Änderungen des Systems oder seiner Einsatzbedingungen aktualisiert?
- Sind Verantwortlichkeiten für das Risikomanagement klar zugewiesen?

### Merkmal 2 — Risikoidentifikation (Art. 9 Abs. 2 KI-VO)

Das System muss bekannte und hinreichend vorhersehbare Risiken für Gesundheit, Sicherheit oder Grundrechte identifizieren und dokumentieren, die aus dem KI-System entstehen können — sowohl bei bestimmungsgemäßem Gebrauch als auch bei vernünftigerweise vorhersehbarem Missbrauch.

**Prüffragen:**
- Wurden alle relevanten Risikoarten analysiert: technisches Versagen, Bias, Datenmängel, Missbrauch, Cyberangriffe?
- Wurden auch indirekte Risiken für Dritte (nicht nur direkte Nutzer) berücksichtigt?

### Merkmal 3 — Risikoabschätzung und Risikopriorisierung (Art. 9 Abs. 2 lit. b KI-VO)

Die identifizierten Risiken müssen bewertet werden — nach Schwere, Wahrscheinlichkeit und Reversibilität der Schäden. Dabei sind die spezifischen Eigenschaften der vorgesehenen Nutzer (Alter, Vulnerabilität) zu berücksichtigen.

**Prüffragen:**
- Werden Risiken nach Schwere und Wahrscheinlichkeit eingestuft?
- Werden betroffene Bevölkerungsgruppen und ihre besonderen Schutzbedürfnisse berücksichtigt?

### Merkmal 4 — Risikominderungsmaßnahmen (Art. 9 Abs. 4 KI-VO)

Für jedes identifizierte Risiko müssen angemessene Minderungsmaßnahmen getroffen werden. Die Maßnahmen sind in folgender Reihenfolge zu priorisieren:
1. Risikominderung durch Design und Entwicklung
2. Risikominderung durch Schutzmaßnahmen (technische und organisatorische Sicherheitsvorkehrungen)
3. Informationsmaßnahmen für Betreiber und Nutzer

**Prüffragen:**
- Wurden für jedes Risiko konkrete Maßnahmen definiert und dokumentiert?
- Wurden Design-Alternativen geprüft, bevor auf externe Schutzmaßnahmen zurückgegriffen wurde?

### Merkmal 5 — Restrisiko-Bewertung (Art. 9 Abs. 6 KI-VO)

Risiken, die trotz Minderungsmaßnahmen verbleiben (Restrisiken), müssen bewertet werden. Das Hochrisiko-KI-System darf nur in Verkehr gebracht werden, wenn das Gesamtrestrisiko als akzeptabel eingestuft wird.

**Prüffragen:**
- Ist das verbleibende Restrisiko dokumentiert?
- Hat eine zuständige Stelle das Restrisiko als akzeptabel eingestuft?

### Merkmal 6 — Testing und Validierung (Art. 9 Abs. 7 und 8 KI-VO)

Das KI-System muss vor dem Inverkehrbringen getestet werden. Bei Hochrisiko-KI in bestimmten Bereichen (biometrische Identifikation in Echtzeit, Strafverfolgung) können Real-World-Tests unter kontrollierten Bedingungen (Art. 60 KI-VO) vorgesehen sein.

**Prüffragen:**
- Gibt es eine dokumentierte Teststrategie?
- Wurden Tests mit repräsentativen Datensätzen und unter realistischen Einsatzbedingungen durchgeführt?

## Typische Lücken in der Praxis

- **Statisches Risikomanagement:** Das System wurde einmal analysiert und dann nie wieder überprüft.
- **Kein Bezug auf Grundrechte:** Technische Risiken werden bewertet, Grundrechtsrisiken (Diskriminierung, Freiheit, Würde) werden übersehen.
- **Fehlende Dokumentation:** Risiken wurden mündlich besprochen, aber nicht schriftlich festgehalten.
- **Kein Eskalationsprozess:** Es fehlt ein klar definierter Prozess, wie bei Risikovorfällen eskaliert wird.

## Verhältnis zu anderen Pflichten

Das Risikomanagementsystem nach Art. 9 KI-VO ist eng verknüpft mit:
- Art. 10 KI-VO (Datenqualität — schlechte Trainingsdaten erzeugen Risiken)
- Art. 12 KI-VO (Logging — Risikovorfälle müssen protokolliert werden)
- Art. 72 KI-VO (Post-Market-Monitoring — Risiken nach Inverkehrbringen)

---

Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten.

## Aktuelle Rechtsprechung (v14.2)
- EuGH, Urt. v. 07.12.2023 — C-634/21 (SCHUFA-Score), NJW 2024, 248 Rn. 49: KI-Scoring-System als automatisierte Einzelentscheidung nach Art. 22 DSGVO — Masstab fuer Hochrisiko-Klassifikation und Betreiberpflichten nach KI-VO.
- EuGH, Urt. v. 04.10.2024 — C-203/22 (Dun & Bradstreet), NJW 2025, 56 Rn. 38: Betreiber muss Entscheidungslogik offenlegen — Art. 13 KI-VO Transparenzpflicht und Art. 26 Abs. 6 Korrekturrecht.
- BGH, Urt. v. 19.06.2018 — VI ZR 184/17, NJW 2018, 2877 Rn. 15: Organisationspflichten bei technischen Systemen — massgeblich fuer KI-VO Betreiberpflichten und interne Governance.
- EuGH, Urt. v. 16.07.2020 — C-311/18 (Schrems II), NJW 2020, 2557 Rn. 87: Drittlandtransfer bei KI-APIs erfordert Schutzgarantien; Art. 28 DSGVO AVV in KI-Lieferkette.

## Zentrale Normen (Paragrafenkette)
- Art. 3 Nr. 3/4 KI-VO — Anbieter / Betreiber-Definition
- Art. 5 KI-VO — verbotene Praktiken (absolut ab 02.02.2025)
- Art. 6 i.V.m. Anhang III KI-VO — Hochrisiko-Klassifikation
- Art. 26 KI-VO — Betreiberpflichten
- Art. 99 KI-VO — Bussgelder bis 35 Mio. EUR / 7 % Jahresumsatz

## Kommentarliteratur
- Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 9 Rn. 7: Anwendungsbereich und Pflichten.
- Ehmann/Selmayr, DS-GVO, 3. Aufl. 2024, Art. 22 Rn. 10: Wechselwirkung KI-VO und DSGVO.

## Triage zu Beginn
1. Welche Rolle hat das Unternehmen im KI-Lieferkette (Art. 3 KI-VO — Anbieter, Betreiber, Importeur)?
2. Liegt ein Hochrisiko-System vor (Art. 6 i.V.m. Anhang III Nr. 1-8 KI-VO)?
3. Sind verbotene Praktiken nach Art. 5 KI-VO ausgeschlossen?
4. Welche konkreten Pflichten aus dem aktuellen Skill-Kontext sind einschlaegig?
5. Ist die Massnahme fristgerecht umgesetzt (KI-VO Stufenplan bis 02.08.2026)?

## Output-Template — Pruefergebnis
**Adressat:** Pruefer / Rechtsberater — Tonfall: strukturiert-rechtlich
```
PRUEFERGEBNIS — HOCHRISIKO RISIKOMANAGEMENTSYSTEM ART 9
[DATUM] — System: [SYSTEMNAME] — Mandant: [NAME MANDANT]
[AKTENZEICHEN]

Gepruefte Norm(en): [Art. 9 Rn. 7]

Ergebnis:
[ ] Anforderung erfuellt
[ ] Anforderung nicht erfuellt — Massnahmen erforderlich:
    1. [MASSNAHME — Verantwortlicher: NAME — Frist: DATUM]
[ ] Nicht einschlaegig — Begruendung: [BEGRUENDUNG]

Sanktionsrisiko: [NIEDRIG / MITTEL / HOCH — bis [BETRAG] nach Art. 99 KI-VO]
Naechster Skill: [FOLGE-SKILL]
Geprueft: [NAME], [DATUM]
```