---

Umgang mit KI-Portalen unter AIact

EU-AI-Act (Verordnung über Künstliche Intelligenz, 2024) definiert erstmals rechtlich verbindliche Regeln, wie Menschen, Unternehmen und Bildungseinrichtungen mit KI-Portalen wie ChatGPT, Gemini oder DeepSeek umgehen dürfen.

Es folgt eine strukturierte übersicht, welche Möglichkeiten beim Umgang mit KI-Portalen unter Einhaltung der EU-Vorgaben bestehen.

1. Grundgedanke des EU-AI-Acts

Der EU AI Act verfolgt das Ziel,

Künstliche Intelligenz sicher, transparent, nachvollziehbar und grundrechtskonform einzusetzen.

Er unterscheidet vier Risikoklassen für KI-Anwendungen:

1. Unannehmbares Risiko $\rightarrow$ verboten
2. Hohes Risiko $\rightarrow$ stark reguliert
3. Begrenztes Risiko $\rightarrow$ Transparenzpflicht
4. Minimales Risiko $\rightarrow$ frei nutzbar

KI-Portale wie ChatGPT oder Gemini gelten in der Regel als „General Purpose AI“ (GPAI) mit begrenztem Risiko, können aber hohes Risiko darstellen, wenn sie in sensiblen Bereichen (z. B. Justiz, Medizin, Bildung) eingesetzt werden.

2. Grundprinzipien für den Umgang mit KI-Portalen nach dem AI Act

A. Transparenzpflicht

KI-Systeme müssen klar erkennbar sein – Nutzer müssen wissen, dass sie mit einer KI interagieren.

Was du beachten solltest:

• Immer offenlegen, wenn KI-Texte, -Bilder oder -Entscheidungen verwendet werden.
• Bei Veröffentlichungen: Kennzeichnung wie „Dieser Text wurde teilweise mit KI erstellt.“

Beispiel:

„Die folgenden Textpassagen wurden mit Unterstützung von ChatGPT erstellt.“

B. Verantwortung und menschliche Kontrolle

Der Mensch bleibt entscheidungsverantwortlich. KI darf unterstützen, aber nicht autonom über Menschen urteilen oder rechtlich bindende Entscheidungen treffen.

Was du beachten solltest:

• Ergebnisse der KI immer prüfen.
• Keine automatisierten Entscheidungen über Menschen (z. B. Bewerbungen, Prüfungen) ohne menschliche Kontrolle.

Beispiel:

ChatGPT darf Vorschläge für eine Bewertung machen, aber der Lehrer muss die Endnote selbst festlegen.

C. Datenschutz und Urheberrecht

KI darf keine personenbezogenen Daten ohne Zustimmung verarbeiten oder urheberrechtlich geschützte Inhalte ungeprüft verwenden.

Was du beachten solltest:

• Keine privaten oder sensiblen Daten eingeben.
• KI-generierte Inhalte auf Urheberrecht prüfen.
• Bei Nutzung von fremden Texten: Quellen angeben.

Beispiel:

Keine personenbezogenen Schülerdaten oder Firmendokumente in ChatGPT eingeben.

D. Dokumentation und Nachvollziehbarkeit

Vor allem im beruflichen und öffentlichen Bereich muss der KI-Einsatz dokumentiert und prüfbar sein.

Was du beachten solltest:

• Beschreibe, wo und wofür KI eingesetzt wurde.
• Halte Prompts und KI-Ausgaben für Nachweise fest (z. B. Projektprotokoll).

Beispiel:

In einem Schulprojekt: „Für die Textzusammenfassung wurde ChatGPT (Version GPT-5) verwendet. Ergebnis überprüft und angepasst durch die Schülergruppe.“

E. Risikobasierte Anwendung

KI sollte nur in Bereichen genutzt werden, in denen das Risiko verhältnismässig ist.

Risikoklasse	Bedeutung	Beispiel	Umgang
Unannehmbar	Manipulation, soziale Bewertung, Massenüberwachung	„Social Scoring“	Verboten
Hoch	Medizin, Justiz, Bildung	Automatische Prüfungsauswertung	Zulässig nur mit Kontrollen
Begrenzt	Chatbots, Textgeneratoren	ChatGPT-Nutzung im Unterricht	Transparenzpflicht
Minimal	Spiele, Kunst	KI-Kunstwerke	Frei nutzbar

3. Zulässige Möglichkeiten des Umgangs mit KI-Portalen

Erlaubt und empfohlen

Anwendung	Beschreibung
Lernen & Bildung	Wissenserwerb, Erklärungen, Lernhilfen, Zusammenfassungen
Kreative Nutzung	Texte, Bilder, Ideenentwicklung mit Kennzeichnung
Berufliche Unterstützung	Automatisierte Textvorschläge, Recherchen, Analysen
Programmierung & Technik	Codeerstellung, Debugging, Simulationen
Kommunikation & Präsentation	Entwürfe für E-Mails, Berichte, Vorträge

Voraussetzung: Transparenz, Datenminimierung, überprüfung der Inhalte.

Eingeschränkt erlaubt (mit Kontrolle)

Anwendung	Bedingung
Bewertungs- oder Auswahlverfahren	Nur mit menschlicher Kontrolle (z. B. Bewerbungen, Prüfungen)
Automatisierte Beratung	Nur, wenn der Nutzer weiss, dass es KI ist
Analyse personenbezogener Daten	Nur mit Zustimmung und DSGVO-Konformität

Verboten nach AI Act

Bereich	Beispiel
Manipulative oder täuschende Systeme	Deepfakes ohne Kennzeichnung
Soziale Bewertung von Menschen („Social Scoring“)	Punktevergabe für Verhalten
Massenüberwachung & Emotionserkennung	In Schulen, Arbeitsplätzen oder öffentlichen Räumen
KI, die Rechte oder Freiheit verletzt	Zwang, Täuschung, Diskriminierung

4. Praktische Handlungsempfehlungen

Handlung	Empfehlung
Prompting bewusst gestalten	Keine sensiblen Daten oder diskriminierenden Inhalte
Ergebnisse prüfen	Faktencheck, Quellen verlangen
KI kennzeichnen	„Erstellt mit Hilfe von ChatGPT“
Schulung / Sensibilisierung	KI-Kompetenz aufbauen (besonders in Schule & Beruf)
Datensicherheit beachten	Nutzung in geschützten Umgebungen (z. B. Unternehmens-KI-Portale)
Risikoeinschätzung durchführen	Prüfen: Welche Klasse laut AI Act? (Annex III)

5. Zusammenfassung

Der EU AI Act erlaubt die Nutzung von KI-Portalen wie ChatGPT unter klaren Bedingungen: Transparenz, menschliche Kontrolle, Datenschutz, Nachvollziehbarkeit und Risikobewertung.

Kurzüberblick: Möglichkeiten im Einklang mit dem AI Act

• ERLAUBT : Wissens- und Kreativarbeit
• ERLAUBT : Automatisierung & Unterstützung
• ERLAUBT : Lern- und Bildungseinsatz
• VORSICHT : Nur kontrolliert in sensiblen Bereichen
• VERBOTEN : Kein manipulativer, diskriminierender oder intransparenter Einsatz

---