Artikel 50 EU AI Act: Transparenzpflichten für KI-Systeme einfach erklärt
- Joe Simms
- 25. März
- 7 Min. Lesezeit
Ab dem 2. August 2026 gelten die Transparenzpflichten des EU AI Act. Für viele Unternehmen bedeutet das: Handlungsbedarf. Doch was genau verlangt Artikel 50? Wer ist betroffen? Und was passiert, wenn ihr die Pflichten ignoriert?
In diesem Artikel erklären wir die Transparenzanforderungen so, dass ihr sie ohne juristisches Vorwissen versteht — und zeigen, warum gerade API-Integratoren, Startups und Agenturen besonders aufpassen müssen.
Was bedeutet "Transparenz" im Kontext der KI-Verordnung?
Bevor wir in die Details von Artikel 50 eintauchen, lohnt sich ein Blick auf die offizielle Definition.
Das Joint Research Centre der Europäischen Kommission (JRC) definiert Transparenz eines KI-Systems als die Bereitstellung angemessener Informationen über:
Ziele und Limitationen des Systems
Design-Entscheidungen und zugrundeliegende Annahmen
Verwendete Modelle, Algorithmen und Trainingsmethoden
Datenherkunft und Datenschutzmaßnahmen
Zweck und Art des Deployments
Mit anderen Worten: Transparenz bedeutet nicht nur "ein Label draufkleben". Es geht darum, Stakeholdern — also Nutzern, Behörden, und betroffenen Personen — die Informationen zu geben, die sie brauchen, um das System zu verstehen und informierte Entscheidungen zu treffen.
Die drei Säulen der Transparenz
Laut dem Academic Guide to AI Act Compliance besteht Transparenz aus drei zusammenhängenden Konzepten, die bereits in den Ethics Guidelines for Trustworthy AI von 2019 definiert wurden:
1. Traceability (Rückverfolgbarkeit)
Woher kommt eine KI-Entscheidung? Welche Daten wurden verwendet? Welches Modell hat den Output generiert?
Im AI Act: Artikel 50 Absatz 2 fordert maschinenlesbare Markierungen (Metadata, Watermarking), die genau diese Rückverfolgbarkeit ermöglichen.
2. Explainability (Erklärbarkeit)
Wie funktioniert das System? Welche Logik steckt hinter den Entscheidungen?
Im AI Act: Für Hochrisiko-Systeme regelt Artikel 13 die Erklärbarkeit. Für Transparency-Risk-Systeme (Artikel 50) geht es primär um die Offenlegung der KI-Natur.
3. User Communication (Nutzerkommunikation)
Weiß der Nutzer, dass er mit einer KI interagiert? Wird er über die Grenzen des Systems informiert?
Im AI Act: Artikel 50 Absatz 1 und 4 regeln genau diese Kommunikationspflicht — von Chatbots bis Deepfakes.
Was ist ein "Transparency-Risk System"?
In der Fachliteratur wird oft von "Transparency-Risk Systems" oder "Limited-Risk AI Systems" gesprochen. Dieser Begriff ist nicht offiziell im AI Act definiert, beschreibt aber präzise die Systeme, die unter Artikel 50 fallen.
Gemeinsames Merkmal: Diese Systeme bergen besondere Risiken der Imitation, Manipulation oder Täuschung von Personen.
Konkrete Beispiele:
Chatbots und virtuelle Assistenten
Text-to-Speech und Voice Cloning Anwendungen
Deepfake-Generatoren (Bild, Audio, Video)
Emotionserkennungssysteme
Biometrische Kategorisierungssysteme
KI-generierte Nachrichtenartikel und Zusammenfassungen
Wichtig: Ein System kann gleichzeitig "Transparency-Risk" UND "High-Risk" sein. In diesem Fall gelten BEIDE Anforderungssets — die Transparenzpflichten aus Artikel 50 PLUS die strengeren Hochrisiko-Anforderungen aus Kapitel III des AI Act.Die 4 Transparenzfälle im Detail
Das Artikel 50 EU AI ACT unterscheidet vier verschiedene Transparenzpflichten — je nachdem, welche Art von KI-System ihr anbietet oder einsetzt.
Fall 1: KI-Interaktion mit Personen (Absatz 1)
Worum geht es?
Wenn ein KI-System für die direkte Interaktion mit natürlichen Personen bestimmt ist, müssen diese Personen informiert werden, dass sie mit einer KI interagieren.
Beispiele: Chatbots im Kundenservice, virtuelle Assistenten, KI-gestützte Telefonhotlines
Ausnahme: Die Pflicht entfällt, wenn die KI-Natur aus Sicht einer "angemessen informierten, aufmerksamen und verständigen Person" aufgrund der Umstände offensichtlich ist.
Wer ist verantwortlich? Der Anbieter muss das System so konzipieren, dass die Information technisch möglich ist.
Fall 2: Synthetische Inhalte — Marking-Pflicht (Absatz 2)
Worum geht es?
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen sicherstellen, dass die Outputs maschinenlesbar markiert und als künstlich erzeugt erkennbar sind.
Technische Anforderungen laut Code of Practice Draft 2:
Multi-Layer-Ansatz: Keine einzelne Marking-Technik reicht aus. Mindestens zwei Layer sind erforderlich:
- Layer 1: Digital signierte Metadata (z.B. C2PA-Standard)
- Layer 2: Imperceptible Watermarking (unsichtbare Wasserzeichen)
Optional: Fingerprinting oder Logging als Fallback
Die 4 Qualitätsanforderungen: Marking-Techniken müssen effektiv, interoperabel, robust und zuverlässig sein.
Wer ist verantwortlich? Der Anbieter des generativen KI-Systems.
Fall 3: Emotionserkennung und Biometrie (Absatz 3)
Worum geht es?
Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen müssen betroffene Personen über den Betrieb des Systems informieren.
Beispiele: Stimmungsanalyse im Call-Center, Aufmerksamkeitserkennung in Fahrzeugen, Alters- oder Geschlechtserkennung
Zusätzlich: Personenbezogene Daten müssen gemäß DSGVO verarbeitet werden.
Wer ist verantwortlich? Der Betreiber (Deployer) des Systems.
Fall 4: Deepfakes und KI-generierte Texte (Absatz 4)
Worum geht es?
Wer ein KI-System einsetzt, das Deepfakes erzeugt oder Texte generiert, die der Information der Öffentlichkeit dienen, muss offenlegen, dass die Inhalte künstlich erzeugt wurden.
Labelling-Anforderungen laut Code of Practice Draft 2:
Visuelles Icon mit "AI" als Hauptelement
Optional ergänzt durch Text: "Generated with AI", "Made by AI", "Manipulated with AI"
Kontrastverhältnis mindestens 4,5:1 gegen den Hintergrund
Für Audio: Hörbarer Disclaimer in der Sprache des Inhalts
Placement-Regeln nach Modalität:
Real-Time Video: Icon durchgehend während der gesamten Übertragung
Aufgezeichnetes Video: Icon am Anfang und in regelmäßigen Abständen
Bilder: Icon bei jeder Einblendung sichtbar
Audio unter 30 Sekunden: Disclaimer am Anfang
Audio über 30 Sekunden: Disclaimer am Anfang, zwischendurch und am Ende
Wer ist verantwortlich? Der Betreiber (Deployer), der den Content veröffentlicht.
Anbieter vs. Betreiber — Wer muss was tun?
Der AI Act unterscheidet klar zwischen zwei Rollen:
Anbieter (Provider):
Wer ein KI-System entwickelt oder auf den Markt bringt. Verantwortlich für technische Maßnahmen wie Marking und Watermarking (Artikel 50 Absatz 1 und 2).
Betreiber (Deployer):
Wer ein KI-System unter eigener Verantwortung einsetzt. Verantwortlich für sichtbare Kennzeichnung und Nutzerinformation (Artikel 50 Absatz 3 und 4).
Praxisbeispiel: Ihr entwickelt einen Chatbot mit der OpenAI API. OpenAI ist der Anbieter des Basismodells, aber ihr seid der Anbieter des KI-Systems, das ihr auf den Markt bringt. Und wenn ihr den Chatbot selbst betreibt, seid ihr zusätzlich Betreiber. Beide Pflichten treffen euch.Das EU-Icon — Ein einheitliches Kennzeichen kommt
Der Code of Practice Draft 2 (veröffentlicht am 5. März 2026) schlägt ein einheitliches EU-weites Icon zur Kennzeichnung von KI-generierten Inhalten vor.
Design-Anforderungen:
Hauptelement: Das Akronym "AI" in Großbuchstaben
Verschiedene Stile erlaubt (Farbe, Typografie), solange klar und erkennbar
Kontrastverhältnis mindestens 4,5:1
Größe kontextabhängig, aber Proportionen müssen erhalten bleiben
Verfügbarkeit:
Das Icon wird kostenlos unter einer Open-Source-Lizenz (EUPL) bereitgestellt. Eine Task Force unter Leitung des AI Office arbeitet an der finalen Version mit interaktiven Elementen.
Ausnahmen in Artikel 50 EU AI ACT — Wann die Pflichten nicht gelten
Artikel 50 sieht drei wichtige Ausnahmen vor:
1. Strafverfolgung
Die Transparenzpflichten gelten nicht, wenn die Verwendung gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen ist.
2. Künstlerische und kreative Werke
Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken ist die Offenlegung auf eine "angemessene Weise" beschränkt, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
Laut Code of Practice: Das bedeutet zum Beispiel ein dezentes Label während der Opening Credits eines Films — nicht durchgehend über dem Bild.
3. Redaktionelle Kontrolle bei Texten
KI-generierte Texte, die der Information der Öffentlichkeit dienen, müssen nicht gekennzeichnet werden, wenn:
Der Text einen Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat, UND
Eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt
Praxis: Nachrichtenredaktionen, die KI-Tools zur Unterstützung nutzen, aber jeden Text vor Veröffentlichung prüfen und verantworten, sind von der Label-Pflicht befreit.
Achtung: Diese drei Gruppen vergessen oft ihre Pflichten
Artikel 50 klingt abstrakt — aber er betrifft mehr Unternehmen als viele denken. Insbesondere drei Gruppen unterschätzen regelmäßig ihre Verpflichtungen:
1. API-Integratoren
Ihr nutzt die OpenAI API, Mistral API oder Claude API in eurer Anwendung? Dann seid ihr Anbieter eines KI-Systems — mit allen Marking-Pflichten aus Absatz 2.
Das Problem: Viele glauben, dass der API-Anbieter (OpenAI, Anthropic, etc.) alle Compliance-Pflichten übernimmt. Das ist falsch. Ihr seid für euer System verantwortlich.
2. Startups mit externen Modellen
"Wir trainieren ja nichts selbst" ist keine Ausrede. Wer ein KI-System auf den Markt bringt oder in Betrieb nimmt, ist verantwortlich — unabhängig davon, woher das zugrundeliegende Modell stammt.
Das Problem: Die Bird & Bird Analyse zum Code of Practice bezeichnet diese Gruppe als den "blindest spot" im Markt.
3. Marketing-Agenturen
Ihr erstellt KI-generierte Bilder, Videos oder Texte für Kunden? Als Betreiber habt ihr Labelling-Pflichten nach Absatz 4 — zumindest bei Deepfakes und Texten von öffentlichem Interesse.
Das Problem: Kreativagenturen denken oft nicht an Compliance, wenn sie Tools wie Midjourney oder DALL-E nutzen.
Die ethische Dimension — Warum das Ganze?
Transparenz ist nicht nur eine rechtliche Pflicht — sie hat einen tieferen Zweck:
"Transparency enables individuals to understand how AI systems function, including the automated decisions that affect them. This aims to ensure informed consent, empowering individuals to choose whether to accept or refuse the involvement of an AI system."
— Academic Guide to AI Act Compliance
Mit anderen Worten: Es geht um Selbstbestimmung. Menschen sollen bewusst entscheiden können, ob sie mit einer KI interagieren wollen — nicht unwissentlich manipuliert werden.
Die Risiken von intransparenter KI sind real:
Manipulation durch nicht erkennbare Deepfakes
Fehlgeleitete Entscheidungen basierend auf KI-Outputs, die als menschlich wahrgenommen werden
Erosion des Vertrauens in digitale Inhalte insgesamt
Die Transparenzpflichten des AI Act sind ein Werkzeug, um diese Risiken zu adressieren — und Vertrauen in KI-Technologie aufzubauen.
Frist: 2. August 2026
Die Deadline steht fest: Die Transparenzpflichten nach Artikel 50 werden am 2. August 2026 vollständig anwendbar.
Timeline:
März 2026: Code of Practice Draft 2 veröffentlicht (Feedback bis 30. März)
Juni 2026: Finale Version des Code of Practice erwartet
2. August 2026: Artikel 50 wird anwendbar
Was das bedeutet: Unternehmen haben noch etwa vier Monate, um ihre Systeme und Prozesse anzupassen. Das klingt nach viel Zeit — aber technische Implementierungen (Watermarking, Metadata-Integration) brauchen Vorlauf.
Fazit: Transparenz wird zur Pflicht — bereitet euch vor
Artikel 50 des EU AI Act macht Transparenz für KI-Systeme verbindlich. Die wichtigsten Punkte:
4 Transparenzfälle: KI-Interaktion, synthetische Inhalte, Emotionserkennung, Deepfakes
2 Verantwortliche: Anbieter (technisches Marking) und Betreiber (sichtbares Labelling)
Multi-Layer-Ansatz: Metadata + Watermarking als Mindeststandard
EU-Icon: Einheitliches "AI"-Symbol kommt
Deadline: 2. August 2026
Besonders betroffen: API-Integratoren, Startups mit externen Modellen, und Marketing-Agenturen — Gruppen, die ihre Pflichten oft unterschätzen.
Im nächsten Artikel: Wie setzt ihr Artikel 50 konkret für Chatbots und Voicebots um? Wir zeigen praktische Code-Beispiele, Placement-Regeln und wie TrustTroiAI euch mit fertigen Templates unterstützt.
Jetzt prüfen: Seid ihr vom AI Act betroffen? Unser kostenloser Scope Check analysiert euer Projekt in 60 Sekunden — ohne Registrierung.
→ trusttroiai.com
[1] Joint Research Centre (JRC): Technical Report 132833 — Transparency in AI System
[2] The Academic Guide to AI Act Compliance
HAL Science: hal-05365570v1
[3] Code of Practice on Marking and Labelling of AI-Generated Content — Second Draft
European Commission, AI Office, 5. März 2026
[4] Verordnung (EU) 2024/1689 — Verordnung über künstliche Intelligenz (AI Act)
Amtsblatt der Europäischen Union, 12. Juli 2024
Kommentare