---

3. Kapitel III: Hochriskantes KI-System

Liste mit Inhaltsangabe des Kapitels III „Hochriskante KI-Systeme“ der AI Act (Verordnung (EU) 2024/1689). Dieses Kapitel ist das umfangreichste der gesamten Verordnung und enthält die Kernregeln, die für die meisten Diskussionen rund um den AI Act entscheidend sind.

Kapitel III – Hochriskante KI-Systeme

Das Kapitel ist in fünf Abschnitte gegliedert:

1. Einstufung als hochriskant
2. Anforderungen an hochriskante Systeme
3. Pflichten entlang der Lieferkette (Anbieter, Importeure, Vertreiber, Betreiber)
4. Benannte Stellen und notifizierende Behörden
5. Normen, Konformitätsbewertung, Bescheinigungen und Registrierung

Abschnitt 1 – Einstufung von KI-Systemen als hochriskant

Artikel 6 – Klassifizierungsregeln

• Ein KI-System gilt als hochriskant, wenn es:

  1. als Sicherheitskomponente eines Produkts dient (z. B. Medizingeräte, Fahrzeuge, Aufzüge), das selbst einer EU-Sicherheitsvorschrift unterliegt,
  2. oder wenn es in Anhang III ausdrücklich gelistet ist.

Beispiele aus Anhang III:

• KI in kritischer Infrastruktur (Stromnetze, Wasser, Verkehr),
• KI in Bildung (Prüfungsbewertung, Zulassungen),
• KI in Beschäftigung (Recruiting, Leistungsüberwachung),
• KI in Strafverfolgung (Polizeiarbeit, Beweisanalyse),
• KI im Justizwesen (Entscheidungshilfen bei Gerichten).

Artikel 7 – Änderungen des Anhangs III

• Die Kommission kann Anhang III erweitern oder ändern, wenn sich neue Risiken zeigen.

Abschnitt 2 – Anforderungen an hochriskante KI-Systeme

Dieser Abschnitt (Art. 8–15) enthält die konkreten Pflichten, die Anbieter erfüllen müssen, damit ein System in der EU in Verkehr gebracht werden darf.

Artikel 8 – Einhaltung der Anforderungen

• Anbieter müssen sicherstellen, dass ihre Systeme die grundlegenden Anforderungen (Art. 9–15) erfüllen.

Artikel 9 – Risikomanagementsystem

• Pflicht zur Einführung eines kontinuierlichen Risikomanagements über den gesamten Lebenszyklus.
• Risiken müssen identifiziert, bewertet, gemindert und überwacht werden.

Artikel 10 – Daten und Daten-Governance

• Daten, die für Training, Validierung und Tests genutzt werden, müssen:

  • relevant, repräsentativ, fehlerfrei und vollständig sein,
  • angemessen dokumentiert werden,
  • Bias und Diskriminierung minimieren.

Beispiel: Ein Recruiting-KI-System darf nicht auf verzerrten Daten basieren, die Frauen oder Minderheiten systematisch benachteiligen.

Artikel 11 – Technische Dokumentation

• Anbieter müssen umfangreiche Dokumentationen vorlegen, die u. a. beschreiben:

  • Systemarchitektur,
  • Trainingsdaten,
  • Funktionsweise,
  • Risikomanagementmaßnahmen.

Artikel 12 – Aufbewahrung von Aufzeichnungen

• Systeme müssen so gestaltet sein, dass Protokolle / Logs entstehen, um ihre Nutzung nachvollziehbar zu machen.

Artikel 13 – Transparenz & Informationen für Betreiber

• Anbieter müssen dem Betreiber klare Informationen geben, z. B.:

  • Gebrauchsanweisungen,
  • Zweck des Systems,
  • Leistungsgrenzen.

Artikel 14 – Menschliche Aufsicht

• Systeme müssen so konzipiert sein, dass Menschen eingreifen oder eingreifen können, um Risiken zu begrenzen.
• Es muss klar definiert werden: Wer überwacht das System? Welche Eingriffsmöglichkeiten bestehen?

Artikel 15 – Genauigkeit, Robustheit, Cybersicherheit

• Hochrisiko-Systeme müssen:

  • technisch zuverlässig und robust sein,
  • Störungen oder Manipulationen standhalten,
  • cybersicher sein, um Missbrauch zu verhindern.

Abschnitt 3 – Verpflichtungen von Anbietern und anderen Akteuren

Artikel 16–26

Hier werden die konkreten Rollen entlang der Lieferkette geregelt:

• Anbieter (Hersteller/Entwickler):

  • Müssen Konformitätsbewertung durchführen,
  • CE-Kennzeichnung anbringen,
  • Registrierung im EU-Datenbank-System vornehmen,
  • Monitoring nach Inverkehrbringen betreiben.

• Bevollmächtigter Vertreter:

  • Handelt im Namen des Anbieters innerhalb der EU.

• Importeure:

  • Dürfen nur konforme Systeme in die EU bringen.

• Vertreiber:

  • Müssen prüfen, ob Produkte CE-Kennzeichnung tragen und die nötigen Dokumente beiliegen.

• Betreiber (User/Deployers):

  • Müssen die Systeme gemäß den Anleitungen verwenden.
  • Müssen vor dem Einsatz prüfen, ob das System für den beabsichtigten Zweck geeignet ist.

Abschnitt 4 – Notifizierende Behörden & Benannte Stellen

Artikel 28–39

• Notifizierende Behörden: Nationale Behörden, die benannte Stellen überwachen.

• Benannte Stellen (Notified Bodies):

  • Unabhängige Prüfstellen, die Konformitätsbewertungen durchführen.
  • Werden von den Mitgliedstaaten benannt und überwacht.

Vergleichbar mit TÜV oder Zertifizierungsstellen, die z. B. Medizingeräte prüfen.

Abschnitt 5 – Normen, Konformitätsbewertung & Registrierung

Artikel 40–49

• Harmonisierte Normen: Wenn ein Anbieter diese einhält, wird davon ausgegangen, dass er konform ist.

• Gemeinsame Spezifikationen: Werden von der Kommission festgelegt, wenn Normen fehlen.

• Konformitätsbewertung:

  • Selbstbewertung (interne Kontrolle) für bestimmte Systeme,
  • oder externe Prüfung durch benannte Stellen bei kritischen Systemen.

• Zertifizierung & CE-Kennzeichnung:

  • Jedes hochriskante System benötigt eine CE-Kennzeichnung, um auf den Markt zu dürfen.

• EU-Datenbank (Art. 49):

  • Anbieter müssen ihre Systeme registrieren,
  • öffentlich zugängliche Transparenzdatenbank für hochriskante KI-Systeme.

Bedeutung von Kapitel III

• Kapitel III ist das Herzstück des AI Acts.
• Es schafft strenge, überprüfbare Anforderungen, die sicherstellen sollen, dass Hochrisiko-KI sicher, fair und transparent ist.
• Besonders wichtig: Das Verantwortlichkeitskonzept entlang der Lieferkette – nicht nur der Entwickler, sondern auch Importeure, Händler und Betreiber haben Pflichten.
• Durch die CE-Kennzeichnung wird KI wie ein klassisches Industrieprodukt behandelt.

Zusammenfassung: Kapitel III regelt welche Systeme hochriskant sind, welche Anforderungen sie erfüllen müssen, wer in der Lieferkette welche Verantwortung trägt, wer sie prüft und wie sie registriert werden. Damit wird ein vollständiger Rechtsrahmen für Hochrisiko-KI geschaffen.

---