begrenztes-risiko-art-50-transparenzpflichten

---
name: begrenztes-risiko-art-50-transparenzpflichten
description: "Prueft Transparenzpflichten bei KI-Systemen mit begrenztem Risiko nach Art. 50 KI-VO: Chatbot-Hinweispflicht Deepfake-Kennzeichnungspflicht KI-generierter Text bei oeffentlichem Interesse. Inhalt der Pflichten und Ausnahmen."
---

# Begrenztes Risiko — Transparenzpflichten nach Art. 50 KI-VO

## Zweck

KI-Systeme mit begrenztem Risiko unterliegen keinen umfangreichen Vorab-Pflichten wie Hochrisiko-Systeme, aber sie unterliegen Transparenzpflichten gegenüber den Nutzern. Art. 50 KI-VO enthält drei Kategorien von Transparenzpflichten.

## Kategorie 1 — Chatbot-Hinweispflicht (Art. 50 Abs. 1 KI-VO)

**Anwendungsbereich:** Anbieter von KI-Systemen, die direkt mit natürlichen Personen interagieren (Chatbots, virtuelle Assistenten).

**Pflicht:** Sicherstellen, dass natürliche Personen darüber informiert werden, dass sie mit einem KI-System interagieren — es sei denn, dies ist aufgrund der Umstände und des Kontexts offensichtlich.

**Prüffragen:**
- Handelt es sich um ein System, das in natürlicher Sprache mit Menschen interagiert?
- Wissen die Nutzer, dass sie mit einem KI-System sprechen?
- Ist es aus dem Kontext heraus offensichtlich (z.B. explizit als Chatbot vermarktet)?

**Ausnahme:** Wenn offensichtlich ist, dass ein KI-System interagiert (z.B. durch die Plattformgestaltung oder Produktbeschreibung), entfällt die aktive Hinweispflicht.

**Form des Hinweises:** Die KI-VO schreibt keine bestimmte Form vor. Der Hinweis muss jedoch klar und verständlich sein. Empfehlung: Hinweis zu Beginn der Interaktion, nicht in den AGB vergraben.

**Ausnahme für Strafverfolgung:** Art. 50 Abs. 5 KI-VO ermöglicht es Strafverfolgungsbehörden unter engen Voraussetzungen, den Hinweis nicht zu erteilen, wenn die Aufgabe dies erfordert.

## Kategorie 2 — Deepfake-Kennzeichnungspflicht (Art. 50 Abs. 2 KI-VO)

**Anwendungsbereich:** Betreiber (nicht Anbieter) von KI-Systemen, die Bild-, Audio-, Video- oder Textinhalte erzeugen, die täuschend echten echten Personen, Orten oder Gegenständen ähneln.

**Pflicht:** Die Inhalte als KI-generiert oder KI-manipuliert zu kennzeichnen, auf eine für den Empfänger der Inhalte erkennbare Weise — maschinell lesbar und erkennbar für Dritte.

**Ausnahmen (Art. 50 Abs. 2 Unterabsatz 2 KI-VO):**
- Inhalte, die zum offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Ausdruck gehören, wenn sie als solche eindeutig kenntlich gemacht sind
- Inhalte, die für Zwecke der öffentlichen Sicherheit oder nationalen Sicherheit genutzt werden

**Prüffragen:**
- Erzeugt das System Bilder, Videos, Audio oder Text, die als von realen Personen stammend wirken könnten?
- Wird der Inhalt öffentlich verbreitet?
- Handelt es sich um offensichtliche Satire oder Kunst (dann ggf. Ausnahme)?

## Kategorie 3 — KI-generierter Text bei öffentlichem Interesse (Art. 50 Abs. 3 KI-VO)

**Anwendungsbereich:** Anbieter und Betreiber von KI-Systemen, die Text in erheblichem Umfang generieren, der öffentliche Interessen berührt (insbesondere Wahlen, öffentliche Debatten, politische Propaganda).

**Pflicht:** Sicherstellung, dass KI-generierter Text als solcher erkennbar gemacht wird, wenn er öffentlich verbreitet wird.

**Prüffragen:**
- Generiert das System Texte, die öffentliche Interessen berühren?
- Werden die Texte öffentlich verbreitet, ohne als KI-generiert kenntlich gemacht zu sein?

## Kategorie 4 — Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 4 KI-VO)

**Anwendungsbereich:** Anbieter und Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen.

**Pflicht:** Unterrichtung der betroffenen natürlichen Personen über den Betrieb des Systems.

**Hinweis:** Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist verboten (Art. 5 Abs. 1 lit. f KI-VO). Art. 50 Abs. 4 KI-VO gilt nur für Einsatzszenarien, die nicht unter Art. 5 fallen.

## Technische Umsetzung

Für maschinell lesbare Kennzeichnung empfiehlt die Kommission den Einsatz von Standards wie C2PA (Content Credentials) oder ähnlichen Metadaten-Standards. Harmonisierte Normen sind noch in Entwicklung.

## Sanktionen bei Verstößen

Verstöße gegen Art. 50 KI-VO können mit Bußgeldern bis zu 15 Mio EUR oder drei Prozent des weltweiten Jahresumsatzes geahndet werden (Art. 99 Abs. 4 KI-VO).

---

Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten.

## Aktuelle Rechtsprechung (v14.2)
- EuGH, Urt. v. 07.12.2023 — C-634/21 (SCHUFA-Score), NJW 2024, 248 Rn. 49: KI-Scoring-System als automatisierte Einzelentscheidung nach Art. 22 DSGVO — Masstab fuer Hochrisiko-Klassifikation und Betreiberpflichten nach KI-VO.
- EuGH, Urt. v. 04.10.2024 — C-203/22 (Dun & Bradstreet), NJW 2025, 56 Rn. 38: Betreiber muss Entscheidungslogik offenlegen — Art. 13 KI-VO Transparenzpflicht und Art. 26 Abs. 6 Korrekturrecht.
- BGH, Urt. v. 19.06.2018 — VI ZR 184/17, NJW 2018, 2877 Rn. 15: Organisationspflichten bei technischen Systemen — massgeblich fuer KI-VO Betreiberpflichten und interne Governance.
- EuGH, Urt. v. 16.07.2020 — C-311/18 (Schrems II), NJW 2020, 2557 Rn. 87: Drittlandtransfer bei KI-APIs erfordert Schutzgarantien; Art. 28 DSGVO AVV in KI-Lieferkette.

## Zentrale Normen (Paragrafenkette)
- Art. 3 Nr. 3/4 KI-VO — Anbieter / Betreiber-Definition
- Art. 5 KI-VO — verbotene Praktiken (absolut ab 02.02.2025)
- Art. 6 i.V.m. Anhang III KI-VO — Hochrisiko-Klassifikation
- Art. 26 KI-VO — Betreiberpflichten
- Art. 99 KI-VO — Bussgelder bis 35 Mio. EUR / 7 % Jahresumsatz

## Kommentarliteratur
- Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 50 Rn. 3: Anwendungsbereich und Pflichten.
- Ehmann/Selmayr, DS-GVO, 3. Aufl. 2024, Art. 22 Rn. 10: Wechselwirkung KI-VO und DSGVO.

## Triage zu Beginn
1. Welche Rolle hat das Unternehmen im KI-Lieferkette (Art. 3 KI-VO — Anbieter, Betreiber, Importeur)?
2. Liegt ein Hochrisiko-System vor (Art. 6 i.V.m. Anhang III Nr. 1-8 KI-VO)?
3. Sind verbotene Praktiken nach Art. 5 KI-VO ausgeschlossen?
4. Welche konkreten Pflichten aus dem aktuellen Skill-Kontext sind einschlaegig?
5. Ist die Massnahme fristgerecht umgesetzt (KI-VO Stufenplan bis 02.08.2026)?

## Output-Template — Pruefergebnis
**Adressat:** Pruefer / Rechtsberater — Tonfall: strukturiert-rechtlich
```
PRUEFERGEBNIS — BEGRENZTES RISIKO ART 50 TRANSPARENZPFLICHTEN
[DATUM] — System: [SYSTEMNAME] — Mandant: [NAME MANDANT]
[AKTENZEICHEN]

Gepruefte Norm(en): [Art. 50 Rn. 3]

Ergebnis:
[ ] Anforderung erfuellt
[ ] Anforderung nicht erfuellt — Massnahmen erforderlich:
    1. [MASSNAHME — Verantwortlicher: NAME — Frist: DATUM]
[ ] Nicht einschlaegig — Begruendung: [BEGRUENDUNG]

Sanktionsrisiko: [NIEDRIG / MITTEL / HOCH — bis [BETRAG] nach Art. 99 KI-VO]
Naechster Skill: [FOLGE-SKILL]
Geprueft: [NAME], [DATUM]
```