Muss unser Chatbot sagen, dass er eine KI ist? Art. 50 erklärt
Kurze Antwort
Ja. Ab 2. August 2026 muss ein Chatbot so gestaltet sein, dass Menschen erkennen, dass sie mit einer KI sprechen – außer, es ist offensichtlich (Art. 50 Abs. 1 KI-VO; eine Pflicht des Anbieters des Chatbots, und das sind oft Sie, wenn Sie ihn selbst gebaut haben). Generative KI muss ihre Inhalte maschinenlesbar kennzeichnen (Abs. 2). Nutzen Sie Deepfakes – Bilder, Ton oder Video, die echten Personen oder Ereignissen ähneln –, müssen Sie offenlegen, dass die Inhalte künstlich erzeugt sind (Abs. 4). Dasselbe gilt für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit zu informieren – es sei denn, ein Mensch hat sie redigiert und übernimmt die Verantwortung dafür.
Vier Situationen in Art. 50
| Situation | Wer ist verpflichtet? | Was muss passieren? |
|---|---|---|
| Menschen sprechen mit einer KI | Der Anbieter des KI-Systems | Es muss erkennbar sein, dass es eine KI ist |
| KI erzeugt Text, Bilder, Ton oder Video | Der Anbieter der generativen KI | Maschinenlesbare Kennzeichnung |
| Emotionserkennung oder biometrische Kategorisierung | Der Betreiber des Systems | Die Betroffenen müssen informiert werden |
| Deepfakes und KI-Texte für die Öffentlichkeit | Der Betreiber des Systems | Offenlegen, dass die Inhalte künstlich erzeugt sind |
Haben Sie den Chatbot selbst gebaut?
Haben Sie auf Ihrer Website einen Chatbot mit einem Sprachmodell etwa von OpenAI oder Anthropic gebaut, sind Sie in der Regel Anbieter des Chatbots – und die Pflicht aus Abs. 1 liegt bei Ihnen. Nutzen Sie einen fertigen Chatbot eines Dienstleisters, muss dieser die Kennzeichnung ermöglichen. In Ihrem Interesse ist es aber, zu prüfen, dass sie funktioniert.
GoalCube hat fertige Vorlagen für einen Chatbot-Hinweis und für die Kennzeichnung von KI-Inhalten.
So gehen Sie vor
- Finden Sie Ihre Chatbots.Auf der Website, in der App, im Kundenservice und in sozialen Medien.
- Schreiben Sie einen klaren Hinweis ganz oben.Zum Beispiel: „Sie schreiben mit einem KI-Assistenten. Schreiben Sie ‚Mitarbeiter‘, um mit einem Menschen zu sprechen.“
- Kennzeichnen Sie Deepfakes.Bilder, Videos und Ton, die echten Personen ähneln, brauchen eine sichtbare Kennzeichnung.
- Fragen Sie beim Anbieter nach.Generative KI muss Inhalte maschinenlesbar kennzeichnen. Das ist Pflicht des Anbieters – fragen Sie trotzdem nach.
Das sagt das Gesetz
- Art. 50 KI-VO – Transparenzpflichten
- Gilt ab 2. August 2026. Systeme, die vor diesem Datum in Verkehr gebracht wurden, haben für die maschinenlesbare Kennzeichnung (Abs. 2) Zeit bis 2. Dezember 2026.
- Art. 99 Abs. 4 KI-VO
- Verstöße gegen Art. 50 können Bußgelder bis 15 Mio. € oder 3 % nach sich ziehen.
Fragen und Antworten
Was heißt „offensichtlich“?
Wenn eine durchschnittlich informierte Person es aus dem Zusammenhang erkennt. Im Zweifel: Schreiben Sie es dazu.
Müssen KI-geschriebene Newsletter gekennzeichnet werden?
Nur Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren – und nur, wenn kein Mensch sie redigiert hat und dafür die Verantwortung übernimmt. Ein normaler Newsletter über Ihre Produkte fällt selten darunter.
Müssen KI-Bilder für das Marketing gekennzeichnet werden?
Wenn es Deepfakes sind – also Bilder, die echten Personen, Orten oder Ereignissen ähneln und für echt gehalten werden können –, ja. Für künstlerische oder erkennbar fiktive Bilder gelten leichtere Anforderungen.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung) auf EUR-Lex
- Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI)
Geschrieben von GoalCube-Redaktion. Zuletzt aktualisiert 11. Oktober 2026. GoalCube hilft Ihnen, die KI-Verordnung und die DSGVO einzuhalten. Es ist keine Rechtsberatung.
Seien Sie unter den Ersten.
Wir planen den Start im November 2026. Merken Sie sich vor, dann hören Sie von uns, sobald Sie loslegen können.