Muss mein Chatbot sagen, dass er eine KI ist?
Ja, seit dem 2. August 2026. Wer mit einem KI-System spricht, muss das wissen, spätestens beim ersten Kontakt, es sei denn, es ist für einen aufmerksamen Besucher offensichtlich. Die Pflicht liegt beim Anbieter des Chatbots. Nutzen Sie das Fenster eines Dienstleisters, muss dieser es so gebaut haben; Sie sehen es als Erste, wenn der Hinweis fehlt.
- Chatfenster ohne KI-HinweisArt. 50 KI-Verordnung
Art. 50 KI-Verordnung
An der Quelle geprüft am 27. September 2026.
Für wen
Es gilt für Chatbots und andere KI-Systeme, die direkt mit Menschen sprechen. Die Pflicht, sie so zu gestalten, liegt beim Anbieter: wer das System entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt. Ein Live-Chat mit Ihren eigenen Mitarbeitenden fällt nicht darunter.
- Nur ich
- Unter einer BedingungWenn auf Ihrer Website ein KI-Chat steht.
- 2 bis 9
- Unter einer BedingungWenn auf Ihrer Website ein KI-Chat steht.
- 10 oder mehr
- Unter einer BedingungWenn auf Ihrer Website ein KI-Chat steht.
Was das Gesetz verlangt
Art. 50 Abs. 1 KI-Verordnung
Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, so konzipiert sind, dass diese Menschen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich.
Art. 50 Abs. 5 KI-Verordnung
Diese Information wird klar und eindeutig gegeben, spätestens zum Zeitpunkt der ersten Interaktion.
Art. 3 Nr. 3 KI-Verordnung
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Betrieb nimmt. Lassen Sie einen Chatbot bauen, der unter Ihrem Namen auf Ihrer Website steht, können Sie also selbst Anbieter sein.
Art. 113 KI-Verordnung
Artikel 50 gilt seit dem 2. August 2026. Die strengeren Anforderungen an Hochrisiko-Systeme folgen später; es stimmt also nicht, dass die ganze KI-Verordnung schon für alle gilt.
Selbst prüfen, in fünf Minuten
- Öffnen Sie Ihre Website in einem privaten Fenster und sehen Sie auf das Erste, was das Chatfenster sagt: Steht dort, dass es eine KI oder ein virtueller Assistent ist?
- Steht der Hinweis erst nach ein paar Nachrichten oder nur in den Bedingungen des Anbieters, kommt er nicht spätestens beim ersten Kontakt.
- Fragen Sie Ihren Anbieter, ob KI-Antworten eingeschaltet sind. Anbieter schalten sie manchmal in einem Fenster ein, das schon seit Jahren da ist.
- Beantworten Ihre eigenen Mitarbeitenden den Chat, muss nichts dazu.
Was unsere Prüfung sieht
- Ob auf Ihren Seiten ein Chatfenster steht. Zwanzig Anbieter erkennen wir an ihrem Skript, den Rest daran, wie das Fenster aussieht.
- Ob bei diesem Fenster ein Hinweis steht, dass es um eine KI geht.
Was unsere Prüfung nicht sieht
- Ob ein Mensch oder ein Modell hinter dem Chat steht. Darum ist jeder Befund eine Frage, kein Urteil.
- Was das Fenster sagt, nachdem jemand es öffnet. Wir öffnen es nicht, sonst bekämen Ihre Mitarbeitenden Gespräche, die niemand führt.
- Ob von KI erzeugte Bilder oder Texte gekennzeichnet sind (Art. 50 Abs. 2 und 4). Das prüfen wir noch nicht.
Wer das durchsetzt
Die Marktüberwachungsbehörden, die jeder EU-Mitgliedstaat für die KI-Verordnung benennt.
Fragen
Und wenn es offensichtlich ein Roboter ist?
Dann ist kein Hinweis nötig. Aber ‚offensichtlich‘ misst sich an einem aufmerksamen, angemessen informierten Besucher, nicht an Ihnen. Ein Fenster mit einem Menschennamen und einem Foto macht es eher weniger offensichtlich als mehr.
Mein Chat kommt von einem Anbieter. Muss ich dann etwas tun?
Die Pflicht, es so zu bauen, liegt beim Anbieter. Aber das Fenster steht auf Ihrer Website, und Ihre Besucher halten sich an Sie. Fragen Sie Ihren Anbieter, ob der Hinweis da ist, und wenn nicht, wann er kommt.
Selbst nachlesen
- Verordnung (EU) 2024/1689, die KI-Verordnung (öffnet in einem neuen Tab)
Der vollständige Text; die Hinweispflicht steht in Artikel 50.
- Europäische Kommission zu Artikel 50 (öffnet in einem neuen Tab)
Fragen und Antworten zu den Transparenzpflichten, auf Englisch.
Sehen Sie, wo Ihre Website steht
Die kostenlose Prüfung misst das und die vier anderen Regeln in einem Durchgang, von einer europäischen Adresse aus, ohne etwas anzuklicken.