KI-Kompetenzschulung nach Art. 4 EU AI Act

Dauer: ca. 60-90 Minuten  |  Zielgruppe: Beschäftigte und sonstige Personen, die im Auftrag einer Organisation KI-Systeme nutzen.

1. Was ist ein KI-System?

KI-Systeme sind maschinengestützte Systeme, die aus Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableiten können. Im Arbeitsalltag zählen dazu zum Beispiel generative Text- und Bildsysteme, Übersetzungsdienste, Assistenten, automatische Klassifikation, Analyse- und Empfehlungssysteme.

Beispiele im Betrieb

• Texte, E-Mails, Zusammenfassungen oder Konzepte erzeugen lassen
• Bilder oder Grafiken generieren oder bearbeiten
• Dokumente auswerten, strukturieren oder übersetzen
• Kundendaten analysieren oder Antworten vorbereiten
• Automatisierte Vorschläge, Bewertungen oder Entscheidungen unterstützen

2. KI ist hilfreich, aber nicht automatisch richtig

Generative KI kann überzeugend formulieren und trotzdem falsche Angaben erzeugen. Solche Fehler werden häufig als Halluzinationen bezeichnet. Die Ausgabe muss deshalb passend zum Risiko geprüft werden.

• Fakten prüfen: Zahlen, Namen, Termine, Gesetze, technische Daten und Quellen nicht ungeprüft übernehmen.
• Aktualität prüfen: KI-Ausgaben können veraltet sein.
• Kontext prüfen: Eine sprachlich gute Antwort kann fachlich unpassend sein.
• Verantwortung behalten: Die menschliche Entscheidung darf nicht blind an die KI abgegeben werden.

3. Datenschutz und vertrauliche Informationen

• Keine Passwörter, Zugangstoken, privaten Schlüssel oder vertraulichen Zugangsdaten eingeben.
• Personenbezogene Daten möglichst vermeiden, anonymisieren oder pseudonymisieren.
• Kunden-, Mitarbeiter-, Gesundheits-, Finanz- und Vertragsdaten nur nach den betrieblichen Regeln und einer zulässigen Rechtsgrundlage verarbeiten.
• Prüfen, welcher KI-Dienst verwendet wird, welche Einstellungen gelten und ob Daten zu Trainingszwecken weiterverwendet werden können.

4. Urheberrecht, Marken und fremde Inhalte

KI-Ausgaben sind nicht automatisch frei von Rechten Dritter. Besonders bei Bildern, Logos, Texten, Musik, Designs und Softwarecode muss geprüft werden, ob eine Nutzung zulässig ist.

• Keine geschützten Werke oder umfangreiche fremde Texte ohne Berechtigung hochladen.
• KI-generierte Inhalte vor Veröffentlichung auf erkennbare Übernahmen, Marken, Persönlichkeitsrechte und Lizenzen prüfen.
• Bei kommerzieller Nutzung die Nutzungsbedingungen des eingesetzten KI-Dienstes beachten.

5. Diskriminierung, Verzerrungen und faire Entscheidungen

KI kann Verzerrungen aus Trainingsdaten übernehmen oder bestimmte Gruppen benachteiligen. Besonders kritisch sind Anwendungen mit Auswirkungen auf Beschäftigung, Bildung, Kredit, Versicherung, Zugang zu Leistungen oder andere wesentliche Entscheidungen.

• Ergebnisse nicht allein wegen einer KI-Empfehlung als objektiv ansehen.
• Auf systematische Benachteiligungen achten.
• Bei Entscheidungen über Menschen eine angemessene menschliche Kontrolle sicherstellen.

6. Transparenz und Kennzeichnung

Je nach Einsatz können Transparenzpflichten gelten. Nutzer sollen in relevanten Fällen erkennen können, dass sie mit KI interagieren oder dass Inhalte künstlich erzeugt oder manipuliert wurden. Für konkrete Einsatzfälle sind die jeweils einschlägigen Pflichten zu prüfen.

7. Verbotene und besonders kritische Anwendungen

Manche Anwendungen sind nicht bloß riskant, sondern verboten. Das gilt unabhängig davon, ob jemand zustimmt, ob eine Betriebsvereinbarung dazu vorliegt oder wie gut der Zweck gemeint ist. Art. 5 zählt diese Praktiken abschließend auf. Für einen normalen Betrieb sind vor allem die Punkte 5 und 6 wichtig, weil sie in ganz gewöhnlicher Software stecken können.

1. Unterschwellige oder täuschende Beeinflussung, die das Verhalten wesentlich verzerrt und erheblichen Schaden anrichten kann.
2. Ausnutzen von Schutzbedürftigkeit: Alter, Behinderung, soziale oder wirtschaftliche Lage.
3. Soziale Bewertung von Menschen (Social Scoring), die zu Benachteiligung in Lebensbereichen führt, die mit den erhobenen Daten nichts zu tun haben. Gilt auch für private Stellen, nicht nur für Behörden.
4. Vorhersage von Straftaten allein aus Profilbildung oder Persönlichkeitsmerkmalen.
5. Ungezieltes Absammeln von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen, um damit Gesichtserkennungs-Datenbanken aufzubauen.
6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist verboten, außer aus medizinischen oder Sicherheitsgründen. Das trifft auch Software, die Stimmung, Stress, Zufriedenheit oder Aufmerksamkeit von Beschäftigten aus Stimme, Gesicht, Kamerabild oder Tippverhalten ableiten will. Zustimmung der Beschäftigten macht es nicht zulässig.
7. Biometrische Kategorisierung, um auf ethnische Herkunft, politische Einstellung, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugung, Sexualleben oder sexuelle Ausrichtung zu schließen.
8. Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ist nur in eng umgrenzten Ausnahmen und mit vorheriger Genehmigung erlaubt.

8. Sicherer Umgang im Arbeitsalltag

• Nur freigegebene KI-Dienste und Konten verwenden.
• Prompts so formulieren, dass möglichst wenige vertrauliche Daten nötig sind.
• Wichtige Ergebnisse mit einer zweiten Quelle oder fachkundigen Person prüfen.
• Entscheidungen mit erheblicher Auswirkung nicht vollautomatisch treffen, wenn dafür keine geprüfte Grundlage besteht.
• Fehler, Datenschutzvorfälle oder ungewöhnliches KI-Verhalten intern melden.
• Bei neuen KI-Anwendungen vorab Zweck, Daten, Risiko und Verantwortlichkeit festhalten.

9. Einfache betriebliche KI-Regeln

10. Dokumentation der Schulung

Für eine nachvollziehbare interne Dokumentation sollte festgehalten werden: Teilnehmer, Datum, Dauer, Inhalte, verwendete oder vorgesehene KI-Systeme, betriebliche Regeln, ggf. Ergebnis eines Wissenstests sowie die verantwortliche Person für die Schulung. Die Maßnahmen sollten zum tatsächlichen Einsatz und Risiko passen und bei wesentlichen Änderungen aktualisiert werden.

Wissenstest mit 16 Fragen

Interner Richtwert: 13 von 16 richtigen Antworten (81 %). Dieser Schwellenwert ist eine betriebliche Festlegung und keine gesetzlich vorgeschriebene Prüfungsquote.

Quellen und Stand

Stand dieser Unterlage: 20.08.2026. Maßgebliche Primärquellen sind insbesondere die Verordnung (EU) 2024/1689 und die Informationsangebote der Europäischen Kommission / des AI Act Service Desk. Offizielle Hinweise: EU-Kommission: AI Literacy - Questions & Answers und AI Act Service Desk: Article 4 - AI literacy.

Hinweis: Diese Vorlage ersetzt keine Einzelfallprüfung. Für Hochrisiko-KI, sensible personenbezogene Daten, Beschäftigtenentscheidungen oder andere regulierte Einsätze können zusätzliche Pflichten gelten.