---

9. Kapitel IX: Überwachung nach dem Inverkehrbringen, Informationsaustausch und Marktaufsicht

Liste mit Inhaltsangabe des Kapitels IX „Überwachung nach dem Inverkehrbringen, Informationsaustausch und Marktaufsicht“ der Verordnung (EU) 2024/1689 (AI Act). Dieses Kapitel ist besonders wichtig, weil es regelt, wie KI-Systeme nach ihrer Markteinführung überwacht werden und wie Behörden bei Verstößen, Zwischenfällen und Risiken vorgehen.

Das Kapitel umfasst die Artikel 72 bis 94 und ist in fünf Abschnitte unterteilt:

1. Überwachung nach dem Inverkehrbringen
2. Meldung und Austausch von Informationen über schwerwiegende Zwischenfälle
3. Durchsetzungsmaßnahmen der Marktaufsichtsbehörden
4. Rechtsbehelfe für betroffene Personen
5. Besondere Vorschriften für GPAI und systemische Modelle

Abschnitt 1 – Überwachung nach dem Inverkehrbringen

Artikel 72 – Pflichten der Anbieter

• Anbieter hochriskanter KI-Systeme müssen ein System zur Überwachung nach dem Inverkehrbringen einrichten.

• Ziele:

  • Sammeln von Erfahrungen aus der Nutzung,
  • Identifizieren neuer Risiken,
  • Dokumentation von Vorfällen,
  • Einleitung von Korrekturmaßnahmen (z. B. Software-Updates, Rückrufe).

Vergleichbar mit Medizinprodukten oder Autos: Auch nach dem Markteintritt muss die Sicherheit ständig überwacht werden.

Abschnitt 2 – Informationen über schwerwiegende Zwischenfälle

Artikel 73 – Meldepflichten

• Anbieter und Betreiber müssen schwerwiegende Vorfälle sowie Fehler in Hochrisiko-KI-Systemen unverzüglich den zuständigen Behörden melden.

• Beispiele für meldepflichtige Vorfälle:

  • Verletzung von Grundrechten (z. B. Diskriminierung durch eine KI im Bewerbungsprozess),
  • sicherheitsrelevante Störungen (z. B. Fehlverhalten einer KI in einem autonomen Fahrzeug).

• Die Meldungen werden auch mit anderen Mitgliedstaaten und der EU-Kommission geteilt, damit Risiken früh erkannt und EU-weit koordiniert werden.

Abschnitt 3 – Durchsetzungsmaßnahmen

Artikel 74–81 – Befugnisse der Marktaufsichtsbehörden

Die Behörden in den Mitgliedstaaten erhalten weitreichende Eingriffsbefugnisse:

• Prüfung & Kontrolle:

  • Einsicht in technische Unterlagen,
  • Anforderung von Daten und Logs,
  • Vor-Ort-Kontrollen.

• Korrekturmaßnahmen:

  • Verpflichtung zu Software-Updates,
  • Änderungen an Systemen,
  • Einschränkung des Einsatzes.

• Marktmaßnahmen:

  • Rückruf von KI-Systemen,
  • Verbot des weiteren Inverkehrbringens,
  • Entfernung vom Markt.

Damit ähnelt die Durchsetzung stark der Marktüberwachung bei klassischen Produkten (Produktsicherheitsrecht).

Abschnitt 4 – Rechtsbehelfe für betroffene Personen

Artikel 85–87 – Rechte der Bürgerinnen und Bürger

• Personen, deren Grundrechte durch ein KI-System verletzt wurden, haben Anspruch auf:

  • Beschwerde bei nationalen Behörden,
  • Zugang zu einem wirksamen Rechtsbehelf vor Gericht.

• Mitgliedstaaten müssen sicherstellen, dass betroffene Personen über ihre Rechte informiert sind.

Dies ist ein wichtiger Brückenschlag zur Grundrechtecharta der EU.

Abschnitt 5 – Besondere Vorschriften für GPAI und systemische Modelle

Artikel 88–94 – GPAI-spezifische Aufsicht

• Für General Purpose AI (Kapitel V) gelten eigene Vorschriften zur Marktüberwachung und Durchsetzung.

• Das AI Office (vgl. Kapitel VII) spielt hier eine Schlüsselrolle:

  • Beaufsichtigung großer Foundation Models,
  • Einforderung von Transparenzberichten,
  • Durchsetzung von Red-Teaming-Pflichten.

• Nationale Behörden arbeiten mit dem AI Office zusammen, haben aber weniger Eingriffsrechte bei GPAI (da dies meist global agierende Anbieter betrifft).

Bedeutung von Kapitel IX

• Kapitel IX macht deutlich: Der AI Act endet nicht mit der Marktzulassung, sondern legt einen dauerhaften Überwachungsmechanismus fest.
• Es verbindet die Pflichten der Anbieter (Monitoring, Meldungen) mit den Befugnissen der Behörden (Kontrollen, Rückrufe, Marktverbote).
• Besonders stark ist auch der Grundrechtsschutz für Bürgerinnen und Bürger, die aktiv Rechtsmittel nutzen können.
• Für GPAI werden zusätzliche Aufsichtsinstrumente etabliert, da hier systemische Risiken bestehen können.

Kurz-Zusammenfassung

Kapitel IX (Art. 72–94) regelt:

1. Monitoring nach Inverkehrbringen (Anbieter müssen ihre Systeme laufend überwachen).
2. Meldepflichten für schwerwiegende Vorfälle und Fehlfunktionen.
3. Befugnisse der Marktaufsicht (Kontrolle, Updates, Rückrufe, Verbote).
4. Rechtsbehelfe für Betroffene (Beschwerde, Gerichtsklage).
5. Besondere Aufsicht für GPAI (AI Office als zentrale Instanz).

Fazit: Kapitel IX sorgt dafür, dass KI-Systeme nicht nur beim Start sicher sind, sondern kontinuierlich überprüft und bei Problemen angepasst oder vom Markt genommen werden können.

---