---

4. Kapitel IV: Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen

Liste mit Inhaltsangabe des Kapitels IV „Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme“ der Verordnung (EU) 2024/1689 (AI Act). Dieses Kapitel ist vergleichsweise kurz (Artikel 50), hat aber eine große praktische Relevanz, weil es die Regeln für Kennzeichnungspflichten und Transparenz bei „sichtbaren“ KI-Anwendungen festlegt.

Kapitel IV – Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme

Artikel 50 – Transparenzpflichten

Der Artikel schreibt vor, dass bestimmte KI-Systeme besondere Informationspflichten haben, damit Nutzer:innen und Betroffene wissen, dass sie mit KI interagieren oder von KI beeinflusst werden.

Man unterscheidet vier Hauptgruppen:

1. Mensch-KI-Interaktion (Chatbots & Dialogsysteme)

• Wenn Menschen mit einem KI-System direkt interagieren, muss klar erkennbar sein, dass es sich um KI handelt.
• Pflicht für Anbieter/Betreiber: Deutlich machen, dass kein Mensch, sondern ein KI-System antwortet.

Beispiel: Ein Kundenservice-Chatbot muss eine Kennzeichnung haben („Ich bin ein KI-Assistent“).

Ausnahme: Wenn der Kontext schon offensichtlich macht, dass es eine Maschine ist (z. B. ein sprechender Staubsaugerroboter), entfällt die Pflicht.

2. Emotionserkennung und biometrische Kategorisierung

• KI-Systeme, die Emotionen oder persönliche Merkmale (z. B. Alter, Geschlecht, ethnische Herkunft) aus biometrischen Daten ableiten, müssen die betroffenen Personen informieren.
• Transparenzpflicht gilt unabhängig davon, ob es sich um Hochrisiko-KI handelt oder nicht.

Beispiel:

• Ein Bewerbungs-Tool, das während eines Online-Interviews Emotionen analysiert.
• Ein Werbesystem, das Altersgruppen oder Stimmungen von Passanten erkennt.

Ziel: Schutz vor verdeckter Manipulation und Wahrung des Rechts auf informierte Einwilligung.

3. Deepfakes und KI-generierte Inhalte

• Wenn ein System synthetische Inhalte erzeugt oder manipuliert (Texte, Bilder, Audio, Video), muss das kennzeichnet werden.
• Es muss klar erkennbar sein, dass die Inhalte KI-basiert erstellt oder verändert wurden.

Beispiele:

• Ein KI-generiertes Foto einer Person in einer politischen Kampagne.
• Ein Video, das durch KI verfälscht wurde (Deepfake).

Ausnahmen:

• Kunst, Satire oder Meinungsfreiheit – solange Transparenz nicht dem Zweck widerspricht (z. B. in einem Theaterstück oder bei künstlerischer Collage).
• In solchen Fällen können alternative Maßnahmen zur Vermeidung von Täuschung vorgeschrieben sein (z. B. Hinweise in Metadaten statt im sichtbaren Bild).

4. Generative KI (inkl. GPAI-Modelle)

Kapitel IV greift hier Hand in Hand mit Kapitel V (GPAI):

• Anbieter von generativen Modellen müssen sicherstellen, dass die Ausgaben gekennzeichnet werden können (z. B. durch Wasserzeichen oder technische Markierungen).
• Damit soll verhindert werden, dass KI-Inhalte unbemerkt als „echte“ Inhalte in Umlauf geraten.

Bedeutung von Kapitel IV

• Während Kapitel III (Hochrisiko-KI) die technische Sicherheit und Rechtskonformität regelt, geht es in Kapitel IV um gesellschaftliche Transparenz.

• Transparenzpflichten sollen:

  • Täuschung verhindern,
  • Grundrechte wie das Recht auf Information sichern,
  • Vertrauen in KI stärken.

Besonders relevant ist Kapitel IV für Alltagsszenarien:

• Chatbots im Kundenservice,
• KI-gestützte Bewerbungsgespräche,
• Werbung mit KI-Analysen,
• Medien und Social Media (Deepfakes, KI-Bilder, KI-Musik).

Zusammenfassung

Kapitel IV verpflichtet Anbieter und Betreiber von KI-Systemen dazu:

1. Mensch-KI-Interaktionen kenntlich zu machen.
2. Bei Emotionserkennung und biometrischer Kategorisierung die Betroffenen zu informieren.
3. KI-generierte oder manipulierte Inhalte (Deepfakes) klar zu kennzeichnen.
4. Bei generativen KI-Systemen (z. B. Text- oder Bildgeneratoren) Transparenzmechanismen wie Wasserzeichen einzubauen.

Damit stellt Kapitel IV sicher, dass Menschen immer erkennen können, wann sie mit KI zu tun haben oder wann Inhalte KI-basiert sind.

Möchtest du, dass ich im nächsten Schritt auch Kapitel V „KI-Modelle für allgemeine Zwecke (GPAI)“ detailliert beschreibe? Das ist das neue Herzstück des AI Act und enthält viele spannende Regeln speziell für Systeme wie ChatGPT, Claude oder Gemini.

---