ki-verordnung-compliance

---
name: ki-verordnung-compliance
description: KI-Verordnung (VO EU 2024/1689) Compliance-Pruefung. Anwendungsbereich Risiko-Klassifikation Verbotene Praktiken Art. 5 Hochrisiko-Systeme Anhang III Transparenz-Pflichten Art. 50 General Purpose AI Models Art. 51 ff. Konformitaetserklaerung CE-Kennzeichnung Marktueberwachung. Pruefung ob Mandant Anbieter Betreiber Importeur Haendler Bevollmaechtigter. Geltungsbeginn gestaffelt 2.2.2025 verbotene Praktiken 2.8.2025 GPAI-Modelle 2.8.2026 Hochrisiko 2.8.2027 Anhang I. Schnittstelle DSGVO Art. 22 Art. 35 DSFA bei KI-DPIA. Sanktionen bis 7 Prozent Konzernumsatz. Aufsicht BNetzA fuer Marktueberwachung Bundesbeauftragter Datenschutz fuer Hochrisiko-Bereiche.
---

# KI-Verordnung — Compliance-Prüfung

## Zweck

Die EU-KI-Verordnung (VO EU 2024/1689, "AI Act") ist seit 1.8.2024 in Kraft, gestaffelt anwendbar. Dieses Skill prüft Anwendbarkeit, Risiko-Klasse und Pflichten für deutsche Unternehmen.

## Eingaben

- Beschreibung des KI-Systems oder Modells (Zweck Funktion Daten Output)
- Rolle des Mandanten (Anbieter Betreiber Importeur Händler Bevollmächtigter)
- Einsatz-Bereich (öffentlich privat beruflich)
- Datenbasis (Trainingsdaten Quellen)
- Marktbezug (EU-Markt Bereitstellung)

## Schritt 1 — Anwendungsbereich Art. 2 KI-VO

### Sachlich

- **KI-System** Art. 3 Nr. 1 KI-VO — maschinengestütztes System mit autonomem Verhalten, Anpassung, Ausgabe-Erzeugung (Vorhersage Empfehlung Entscheidung)
- **General Purpose AI Model** Art. 3 Nr. 63 — universelles Modell (LLM Foundation Model)

### Persönlich (Art. 2 Abs. 1)

- **Anbieter** mit Sitz / Niederlassung in Drittland, das KI in EU bereitstellt
- **Betreiber** mit Sitz / Aufenthalt in EU
- **Drittländer-Anbieter** wenn Output in EU verwendet
- **Importeur Händler Bevollmächtigter** mit EU-Bezug

### Ausnahmen Art. 2 Abs. 3-12

- Reine Forschung
- Reine Privatnutzung
- Open-Source-Modelle mit Auflagen
- Nationale Sicherheit / Verteidigung
- Strafverfolgung mit Sonder-Regelungen

## Schritt 2 — Rollen-Bestimmung Art. 3 Nrn. 3-7

| Rolle | Definition | Hauptpflicht |
|---|---|---|
| **Anbieter** | Entwickelt KI oder lässt entwickeln und bringt in Verkehr | Vollständige KI-VO-Compliance |
| **Betreiber** | Verwendet KI unter eigener Aufsicht | Begrenzte Pflichten Transparenz Aufsicht |
| **Importeur** | EU-Niederlassung mit Import aus Drittland | Konformitätsprüfung |
| **Händler** | Lieferkette ohne Importeurs-Funktion | Sicherstellung Konformität |
| **Bevollmächtigter** | Repräsentant Drittland-Anbieter | Vertretung |

### Bei Modifikation Art. 25 KI-VO

- **Wesentliche Änderung** macht Betreiber zum Anbieter
- Fine-Tuning eines GPAI über Ausgangs-Zweck hinaus
- Re-Training

## Schritt 3 — Risiko-Klassifikation

### Stufe 1 — Verbotene Praktiken Art. 5 KI-VO

**Geltungsbeginn 2.2.2025** — bereits aktiv.

Verbote (Auswahl):
- **Subliminale Manipulation** zum Schaden
- **Ausnutzung Schwachstellen** (Alter Behinderung soziale Lage)
- **Social Scoring** durch staatliche oder private Akteure
- **Prädiktive Polizeiarbeit** zur Profilierung
- **Emotions-Erkennung am Arbeitsplatz und in Bildung** (Ausnahmen medizinisch)
- **Biometrische Kategorisierung** nach sensitiven Merkmalen
- **Real-Time-Biometrie im öffentlichen Raum** durch Strafverfolgung (mit eng-bezeichneten Ausnahmen)
- **Untargeted Scraping** für Gesichtserkennungs-Datenbanken

**Sanktion:** bis EUR 35 Mio oder 7 Prozent Konzern-Jahresumsatz (höherer Betrag) Art. 99 Abs. 3

### Stufe 2 — Hochrisiko-System Art. 6 + Anhang III

**Geltungsbeginn 2.8.2026** (Anhang III), 2.8.2027 (Anhang I).

**Bereiche Anhang III:**
1. Biometrie (außer eindeutige Identitäts-Überprüfung)
2. Kritische Infrastruktur
3. Bildung und Berufsausbildung
4. Beschäftigung und Personalverwaltung (z.B. Auswahl-Tools)
5. Zugang zu wesentlichen privaten/öffentlichen Diensten und Leistungen (Kredit-Scoring Sozialhilfe Notfall-Triage)
6. Strafverfolgung
7. Migration und Grenzkontrolle
8. Justiz und demokratische Prozesse

**Pflichten Anbieter Hochrisiko:**
- Risikomanagementsystem Art. 9
- Daten-Governance Art. 10
- Technische Dokumentation Art. 11
- Aufzeichnungs-Pflichten Art. 12
- Transparenz und Informations-Bereitstellung Art. 13
- Menschliche Aufsicht Art. 14
- Genauigkeit Robustheit Cybersicherheit Art. 15
- Konformitätsbewertungs-Verfahren Art. 43
- CE-Kennzeichnung
- Registrierung in EU-Datenbank Art. 71

**Pflichten Betreiber Hochrisiko Art. 26:**
- Verwendung gemäß Anweisung
- Menschliche Aufsicht durch geschultes Personal
- Eingangs-Daten relevant und repräsentativ
- Protokollierung
- Information Betroffener bei Entscheidungen
- DSFA-Pflicht Art. 27

### Stufe 3 — Transparenz-System Art. 50 KI-VO

**Geltungsbeginn 2.8.2026.**

- **Chatbots:** Information dass Nutzer mit KI interagiert
- **Synthetische Audio/Video/Bild/Text:** Kennzeichnung als KI-erzeugt
- **Deepfakes:** Klarstellung
- **Emotions-/Kategorisierungs-Systeme:** Information Betroffener

### Stufe 4 — Minimales Risiko

- Keine spezifischen Verpflichtungen
- Freiwillige Codes-of-Conduct

## Schritt 4 — GPAI-Modelle Art. 51 ff. KI-VO

**Geltungsbeginn 2.8.2025.**

### Standard-GPAI-Anbieter-Pflichten Art. 53

- Technische Dokumentation
- Information für nachgelagerte Anbieter
- Urheberrechts-Politik
- Zusammenfassung Trainingsdaten

### GPAI mit systemischem Risiko Art. 55

- **Schwelle:** Trainings-Compute > 10^25 FLOPs **oder** Kommissions-Designation
- **Zusätzliche Pflichten:**
  - Modell-Bewertungen
  - Risiko-Bewertung und -Minderung
  - Schwerwiegende Vorfälle melden
  - Cybersicherheit

## Schritt 5 — Zeitlicher Anwendungs-Plan

| Datum | Anwendbar |
|---|---|
| **1.8.2024** | KI-VO in Kraft |
| **2.2.2025** | Kapitel I (Allgemein), Kapitel II (Verbotene Praktiken) |
| **2.8.2025** | GPAI-Modelle, Governance-Struktur, Sanktionen |
| **2.8.2026** | Hochrisiko Anhang III, Transparenz Art. 50, Reallabore |
| **2.8.2027** | Hochrisiko Anhang I (Produktsicherheits-Bezug) |

## Schritt 6 — Schnittstelle zur DSGVO

### DSFA bei KI-Hochrisiko Art. 27 KI-VO iVm Art. 35 DSGVO

- **Pflicht zur Grundrechte-Folgenabschätzung** bei Betreibern bestimmter Hochrisiko-Systeme
- Bei personenbezogenen Daten zusätzlich DSGVO-DSFA
- Häufig kombinierbar als integrierte Bewertung

### Automatisierte Entscheidungen Art. 22 DSGVO

- EuGH C-634/21 Schufa-Scoring beachten
- Wenn KI-System automatisierte Entscheidung trifft mit rechtlicher / ähnlich erheblicher Wirkung → DSGVO-Verbot + Ausnahmen
- KI-VO und DSGVO parallel anwendbar

### Datenschutz beim Training Art. 10 KI-VO

- Trainingsdaten-Governance — Verhältnis zu Art. 5 DSGVO (Datenminimierung Zweckbindung)

## Schritt 7 — Konformitätsbewertungs-Verfahren Hochrisiko Art. 43

### Selbst-Bewertung

- Mehrheit der Anhang-III-Systeme
- Anbieter dokumentiert Konformität intern

### Benannte Stelle

- Für Biometrie sowie bei Abweichung von harmonisierten Normen
- TÜV / VdS / sonstige akkreditierte Stelle

### CE-Kennzeichnung

- Nach erfolgreicher Konformitätsbewertung
- Anbringung am System

### Registrierung Art. 71

- EU-Datenbank Hochrisiko-Systeme
- Öffentlich einsehbar (mit Ausnahmen)

## Schritt 8 — Aufsicht und Sanktionen in Deutschland

### Marktüberwachungs-Behörden

- **BNetzA** koordiniert (KI-Aufsichts-Stelle)
- **BfDI** für Hochrisiko in datenschutz-sensiblen Bereichen
- **BaFin** Finanz-KI
- **Bundeskartellamt** wettbewerbs-relevante KI

### Sanktionen Art. 99 KI-VO

| Verstoß | Höchst-Strafe |
|---|---|
| Verbotene Praktiken Art. 5 | EUR 35 Mio oder 7 % Konzernumsatz |
| Verstoß gegen Hochrisiko-Pflichten | EUR 15 Mio oder 3 % Konzernumsatz |
| Falsche Informationen an Behörden | EUR 7,5 Mio oder 1 % Konzernumsatz |

### Verbandsklage

- Konsumenten-Schutzverbände
- Aufsichtsbehörden-Klage

## Schritt 9 — Konkrete Prüfungs-Sequenz

1. **Anwendungsbereich** — Ist KI-System / GPAI vorliegend?
2. **Rolle** — Anbieter Betreiber Importeur Händler?
3. **Verbotene Praktiken** — Art. 5 prüfen → ggf. Stopp
4. **Hochrisiko** — Anhang III Tatbestand erfüllt?
5. **Transparenz** — Art. 50 Pflicht?
6. **GPAI** — Modell mit systemischem Risiko?
7. **Compliance-Plan** mit Fristen
8. **DSGVO-Kompatibilität** parallel

## Schritt 10 — Compliance-Programm-Bausteine

### Governance

- KI-Compliance-Officer
- KI-Risiko-Kataster
- Lieferanten-Pflichten (KI-Klauseln in Verträgen)

### Dokumentation

- Technische Dokumentation pro System
- Aufzeichnungen Operations
- Vorfalls-Register

### Schulung

- Personal das Hochrisiko-KI betreibt
- AI Literacy Art. 4 KI-VO

## Schritt 11 — Verzahnung mit anderen Skills

- **dsfa-erstellung** — bei personenbezogenen Daten kombinierte Folgenabschätzung
- **avv-prüfung** — wenn KI durch Dienstleister
- **drittlandstransfer-prüfung** — bei Cloud-KI außerhalb EU
- **anwendungsfall-triage** — wenn KI-VO-Bezug → hier herleiten
- **mandantendaten-ki** (Kanzlei-intern) — bei eigener KI-Nutzung

## Ausgabe

- `ki-vo-pruefung-{system}.md` mit Risiko-Klassifikation und Pflichten-Plan
- Compliance-Roadmap mit Fristen-Linie
- Lieferanten-Anforderungen
- DSFA-Schnittstelle
- Aufsichts-Korrespondenz-Vorbereitung

## Quellen

- VO (EU) 2024/1689 (KI-Verordnung)
- DSGVO Art. 22 35
- EuGH C-634/21 Schufa
- BNetzA-Verlautbarungen (KI-Aufsicht)
- EDSA Empfehlungen zu KI und Datenschutz
- EU-Kommission KI-Leitlinien
- Lambrecht/Stürner KI-Verordnung

## Aktuelle Rechtsprechung (v14.2)

- EuGH, Urt. v. 07.12.2023 — C-634/21 (SCHUFA Holding/Datenschutzbeauftragter Hessen), NJW 2024, 248 Rn. 55–78: Automatisches Scoring (Bonität, Kreditwürdigkeit) durch eine Auskunftei kann eine automatisierte Entscheidung im Sinne von Art. 22 DSGVO darstellen, wenn der Kredit-Score der bestimmende Faktor für die Entscheidung des Dritten (Bank) ist; DSGVO-Compliance muss auch für KI-Scoring-Systeme geprüft werden; Schnittstelle AI Act.
- EuGH, Urt. v. 04.05.2023 — C-300/21 (UI/Österreichische Post), NJW 2023, 1985 Rn. 44: Verarbeitungen, die auf der SCHUFA-Entscheidungslinie liegen (automatisiert, schwerwiegende Folgen), erfordern auch AI Act-Risikoklassifikation nach Anhang III (Hochrisiko: Kreditbewilligung Nr. 5 lit. b).
- BGH, Urt. v. 06.07.2021 — VI ZR 40/20, NJW 2021, 2726 Rn. 28: Zur DSGVO-Haftung bei KI-gestützten Verarbeitungen; mangelhafte Risikoabschätzung bei KI-Systemen erhöht Haftungsrisiko nach Art. 82 DSGVO.
- VG Wiesbaden, Beschl. v. 01.12.2021 — 6 L 738/21.WI, ZD 2022, 178 Rn. 22: DSFA-Pflicht nach Art. 35 DSGVO für KI-Entscheidungssysteme; neue KI-Technologien lösen nach EDSA-Leitlinien regelmäßig DSFA-Pflicht aus; parallel dazu FRIA nach Art. 27 KI-VO.

## Triage zu Beginn

1. Ist das System ein KI-System im Sinne von Art. 3 Nr. 1 KI-VO?
2. Welche Risikoklasse liegt vor? (Verboten Art. 5 / Hochrisiko Art. 6 iVm Anhang III / Begrenzt Art. 50 / Minimal)
3. Wer ist der Mandant: Anbieter / Betreiber / Importeur / Händler?
4. Geltungsbereich: Übergangsfrist beachten (Verbotene Praktiken ab 02.02.2025; Hochrisiko ab 02.08.2026)?

## Output-Template — KI-VO-Compliance-Check

**Adressat:** Compliance-Abteilung / Management — Tonfall: sachlich-juristisch

```
KI-VO Compliance-Check [DATUM]
System: [SYSTEMNAME]
Mandant-Rolle: Anbieter / Betreiber / Importeur / Haendler

Einstufung:
Ist KI-System (Art. 3 Nr. 1 KI-VO): ja / nein
Risikoklasse: Verboten / Hochrisiko / Begrenzt / Minimal
Rechtsgrundlage: Art. [X] KI-VO [Anhang I/III/...Nr. X]

Anwendbarer Zeitplan:
Erste Pflichten ab: [DATUM]

Kernpflichten:
| Pflicht                        | Norm        | Status     |
|-------------------------------|-------------|------------|
| Konformitaetsbewertung        | Art. 43 ff. |            |
| Technische Dokumentation      | Art. 11     |            |
| Menschliche Aufsicht          | Art. 14     |            |
| Transparenz gegenueber Nutzern| Art. 13/50  |            |
| DSGVO/DSFA (Schnittstelle)    | Art. 35 DSGVO|           |

Ergebnis: Konform / Anpassungsbedarf (bis [DATUM]) / Verboten
```