Welche KI ist nach Art. 5 der KI-Verordnung verboten?
Kurze Antwort
Seit 2. Februar 2025 ist es unter anderem verboten, mit KI die Emotionen von Mitarbeitenden oder Schülern zu erkennen, Menschen Punkte für ihr Verhalten zu geben (Social Scoring), schutzbedürftige Menschen zu manipulieren oder auszunutzen, Menschen anhand biometrischer Daten nach Rasse, politischer Meinung oder Sexualität zu kategorisieren und Gesichtsdatenbanken durch das Auslesen von Bildern aus dem Internet aufzubauen. Ab 2. Dezember 2026 ist auch KI für sexuelle Deepfakes ohne Einwilligung und für Missbrauchsdarstellungen verboten. Die Bußgeldobergrenze liegt bei 35 Mio. € oder 7 % des Umsatzes.
Die Liste der verbotenen KI
| Verboten | Beispiel aus einem normalen Unternehmen |
|---|---|
| Manipulation mit unterschwelligen Techniken, die Schaden anrichtet | Eine App, die Kunden zu Käufen drängt, die sie nicht überblicken |
| Ausnutzen von Schutzbedürftigkeit (Alter, Behinderung, wirtschaftliche Lage) | Kredite, die aggressiv an Menschen in finanziellen Schwierigkeiten vermarktet werden |
| Social Scoring | Punkte für Verhalten, die anderswo zu schlechterer Behandlung führen |
| Vorhersage von Straftaten allein auf Grundlage von Profiling | – |
| Gesichtsdatenbanken aus ausgelesenen Bildern | Tools, die Personen anhand eines Fotos im Netz finden |
| Emotionserkennung am Arbeitsplatz und in der Bildung | Kamera, die die Stimmung der Mitarbeitenden misst; Emotionsanalyse in Vorstellungsgesprächen |
| Biometrische Kategorisierung nach Rasse, politischer Meinung, Religion oder Sexualität | – |
| Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung | Nur die Polizei, und mit Ausnahmen |
| Sexuelle Deepfakes ohne Einwilligung und Missbrauchsdarstellungen (ab 2. Dezember 2026) | Generative KI ohne Sperren |
Das Verbot, das die meisten Unternehmen trifft
Das Verbot der Emotionserkennung am Arbeitsplatz und in der Bildung ist das, auf das normale Unternehmen am häufigsten stoßen. Es betrifft Tools für Video-Interviews, Callcenter und Meetings, die aus Gesicht oder Stimme ableiten, ob jemand fröhlich, gestresst, ehrlich oder engagiert ist.
In GoalCube ist die Frage nach verbotenen Praktiken die erste, wenn Sie eine KI-Nutzung erfassen. Antworten Sie mit Ja, wird die Nutzung gestoppt, und die KI bekommt keine Daten.
Wird automatisch nach Ihren Regeln freigegeben. Ihre Mitarbeitenden brauchen die nötige KI-Kompetenz (Art. 4 KI-VO).
Nutzer müssen erkennen können, dass sie mit einer KI sprechen (Art. 50 KI-VO). GoalCube hat einen fertigen Text, den Sie verwenden können.
Recruiting steht in Anhang III KI-VO. Ein Mensch bestätigt die Nutzung, bevor die KI Daten erhält, und entscheidet jeden Fall (Art. 14 und 26 KI-VO; Art. 22 DSGVO).
Emotionserkennung am Arbeitsplatz ist verboten (Art. 5 KI-VO). GoalCube hilft dabei nicht.
Das Beispiel ist vereinfacht. In GoalCube beantworten Sie einige wenige Fragen, und die Einstufung folgt festen Regeln.
So gehen Sie vor
- Gehen Sie Ihre KI-Tools durch.Vor allem Tools für Personalwesen, Überwachung, Video und Marketing.
- Fragen Sie den Anbieter.Erkennt das System Emotionen, Stimmung oder Persönlichkeit aus Gesicht, Stimme oder Text?
- Stoppen Sie Verbotenes.Schalten Sie die Funktion ab oder beenden Sie die Nutzung. Eine Übergangsfrist gibt es nicht.
- Halten Sie es fest.Notieren Sie in Ihrem KI-Inventar, dass Sie auf verbotene Nutzung geprüft haben.
Das sagt das Gesetz
- Art. 5 KI-VO – verbotene Praktiken im KI-Bereich
- Gilt seit 2. Februar 2025. Neue Buchstaben ba und bb ab 2. Dezember 2026 nach Verordnung (EU) 2026/1744.
- Art. 99 Abs. 3 KI-VO – Bußgelder
- Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für KMU gilt der niedrigere.
- Leitlinien der Kommission zu verbotenen KI-Praktiken
- Erläutern jedes Verbot mit Beispielen.
Fragen und Antworten
Ist es verboten, die Zufriedenheit der Mitarbeitenden mit KI zu messen?
Eine anonyme Umfrage ist nicht verboten. KI, die am Arbeitsplatz Emotionen aus Gesicht, Stimme oder Körpersprache ableitet, ist dagegen verboten – außer aus medizinischen oder Sicherheitsgründen.
Was ist mit einem Müdigkeitswarner für Fahrer?
KI, die Müdigkeit aus Sicherheitsgründen erkennt, kann ausgenommen sein. Wird sie genutzt, um die Mitarbeitenden zu bewerten, sieht das anders aus.
Gelten die Verbote auch für kostenlose Tools?
Ja. Die Verbote betreffen die Nutzung, egal ob das Tool kostenlos oder bezahlt ist.
Quellen
Geschrieben von GoalCube-Redaktion. Zuletzt aktualisiert 11. Oktober 2026. GoalCube hilft Ihnen, die KI-Verordnung und die DSGVO einzuhalten. Es ist keine Rechtsberatung.
Seien Sie unter den Ersten.
Wir planen den Start im November 2026. Merken Sie sich vor, dann hören Sie von uns, sobald Sie loslegen können.