Der EU AI Act verlangt jetzt, dass Sie Kunden sagen, dass Ihr Chatbot eine KI ist
Artikel 50 des AI Act gilt seit dem 2. August 2026. Was er von einem Support-Chatbot tatsächlich verlangt, warum Sie die Ausnahme für „Offensichtliches“ nicht rettet, und die DSGVO-Fragen, die es schon vorher gab.
Auch verfügbar auf: English · Nederlands · Français · Español
Am 2. August 2026 sind die Transparenzpflichten des EU AI Act (KI-Verordnung) anwendbar geworden. Wenn Sie einen Support-Chatbot betreiben, der Kunden in der EU bedient, ist das keine ferne Regulierung mehr — es ist eine konkrete Anforderung an Ihr Widget. Die gute Nachricht: Die Kernpflicht ist klein, und Sie können sie noch heute erfüllen.
1. Die Transparenzpflicht
Artikel 50 des AI Act verlangt, dass Personen, die mit einem KI-System interagieren, darüber informiert werden, dass sie mit einem KI-System interagieren. Die Europäische Kommission bestätigt in ihrer eigenen Erläuterung, dass Artikel 50 ab dem 2. August 2026 gilt — siehe die FAQ der Kommission zu Artikel 50 und den Text der Verordnung (EU) 2024/1689.
Es gibt eine Ausnahme für Fälle, in denen es für eine angemessen informierte, aufmerksame und verständige Person offensichtlich ist, dass sie es mit einer KI zu tun hat. Die Kommission deutet an, dass diese Ausnahme eng auszulegen ist. Ein Support-Widget, das wie ein Chat mit einem Kollegen gestaltet ist, ist dafür ein schlechter Kandidat — ein sichtbarer Hinweis ist günstiger als die Diskussion darüber.
So sieht das in der Praxis aus
- Platzieren Sie den Hinweis im Widget selbst, nicht nur in Ihrer Datenschutzerklärung oder Ihren AGB. Wer einen Chat öffnet, liest diese nicht.
- Nennen Sie ihn in der ersten Nachricht oder im Chat-Header: „Sie chatten mit unserem KI-Assistenten. Sie können jederzeit nach einem Menschen fragen, dann übergeben wir Sie.“
- Halten Sie den Weg zu einem Menschen sichtbar. Transparenz ohne Ausweg wirkt auf Kunden wie eine Sackgasse.
- Protokollieren Sie, wann und warum der Hinweis angezeigt wird. Bei einer Prüfung lautet die Frage nicht, ob Sie es gut gemeint haben, sondern ob Sie es nachweisen können.
2. Gilt das für Sie?
Der AI Act erfasst Anbieter und Betreiber, die Systeme auf dem EU-Markt in Verkehr bringen oder Menschen in der EU bedienen — ein US- oder britisches Unternehmen, das ein Chat-Widget für europäische Kunden betreibt, fällt also darunter. Es ist dieselbe extraterritoriale Logik, die die DSGVO zu einem globalen statt einem europäischen Compliance-Projekt gemacht hat, und die praktische Antwort ist für die meisten Supportteams dieselbe: Setzen Sie es überall um, statt nach dem Standort der Besucher zu unterscheiden.
3. Die DSGVO-Fragen, die es schon vorher gab
Ein KI-Chatbot ändert Ihre DSGVO-Pflichten nicht, verschiebt aber, wo personenbezogene Daten auftauchen. Kunden tippen in ein Chatfenster Dinge, die sie nie in ein Kontaktformular schreiben würden: Bestellnummern, Adressen, manchmal Gesundheits- oder Finanzdaten.
| Frage | Wo es schiefgeht |
|---|---|
| Haben Sie einen AVV (Auftragsverarbeitungsvertrag) mit Ihrem Chat-Anbieter? | Ohne AVV verarbeiten Sie personenbezogene Daten über eine Partei, mit der Sie nichts vereinbart haben. Dieser Punkt ist am schnellsten zu beheben und wird am häufigsten übersprungen. |
| Wo werden die Daten gespeichert, und welche Unterauftragsverarbeiter stehen dahinter? | Viele KI-Funktionen laufen über Modellanbieter außerhalb des EWR. Das ist zulässig, erfordert aber einen gültigen Übermittlungsmechanismus, und Sie müssen erklären können, welche Partei was sieht. |
| Wie lange bewahren Sie Chatprotokolle auf? | Chatprotokolle werden selten bereinigt, weil niemand für sie zuständig ist. Legen Sie eine Aufbewahrungsfrist fest und lassen Sie die Daten automatisch ablaufen. |
| Kann der Bot auf Bestelldaten zugreifen, und wie prüft er, mit wem er spricht? | Ein Bot, der eine Bestellnummer ohne E-Mail-Prüfung nachschlägt, gibt Daten an jeden heraus, der die Nummer errät. Knüpfen Sie jede Abfrage an die verifizierte E-Mail-Adresse des Kunden und geben Sie bei fehlender Übereinstimmung ein neutrales „nicht gefunden“ zurück. |
| Was passiert bei einem Auskunfts- oder Löschersuchen? | Liegen die Chatprotokolle nur bei Ihrem Anbieter und sind nicht durchsuchbar, können Sie ein solches Ersuchen nicht innerhalb der gesetzlichen Frist beantworten. |
Zur Einordnung unseres eigenen Setups: Der primäre Datenspeicher liegt in der EU, ein Auftragsverarbeitungsvertrag ist verfügbar, und Bestellabfragen erfolgen nur lesend und mit E-Mail-Abgleich. Ein Teil der KI-Verarbeitung läuft über Unterauftragsverarbeiter außerhalb des EWR auf Grundlage von Standardvertragsklauseln — das steht im AVV und in der Datenschutzerklärung, damit Sie es prüfen können, statt uns beim Wort nehmen zu müssen.
4. Wo es in der Praxis schiefgeht
- Der Bot erfindet Richtlinien. Ein Modell, das nicht an Ihre eigenen Inhalte gebunden ist, denkt sich eine Rückgabefrist aus, die Sie gar nicht anbieten. Stützen Sie Antworten auf Ihre Wissensdatenbank und zeigen Sie die Quelle.
- Der Bot geht Verpflichtungen ein, hinter denen Geld steht. Lassen Sie eine KI niemals eigenständig Erstattungen auslösen oder Bestellungen ändern — lassen Sie sie die Aktion vorbereiten und einen Menschen freigeben.
- Der Hinweis existiert, steht aber ganz unten. Sieht der Kunde ihn erst, nachdem er sein Problem ausführlich geschildert hat, hat er seinen Zweck verfehlt.
- Niemand liest die Gespräche nach. Ohne Stichproben wissen Sie nicht, was Ihren Kunden gesagt wird — und genau danach wird eine Aufsichtsbehörde oder ein verärgerter Kunde fragen. Lesen Sie Deflection-Rate oder Lösungsquote, um zu erfahren, was Sie statt des Volumens messen sollten.
Muss ich Kunden sagen, dass mein Chatbot eine KI ist?
Ja. Artikel 50 des EU AI Act verlangt, dass Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich. Die Europäische Kommission deutet an, dass die Ausnahme eng auszulegen ist, daher ist ein sichtbarer Hinweis für ein Support-Widget der sichere Weg.
Seit wann gelten die Transparenzregeln des EU AI Act für Chatbots?
Die Transparenzregeln des EU AI Act für Chatbots gelten seit dem 2. August 2026, laut der Erläuterung der Europäischen Kommission zu Artikel 50 der Verordnung (EU) 2024/1689. Die Verordnung selbst ist am 1. August 2024 in Kraft getreten, ihre Kapitel wurden jedoch schrittweise anwendbar.
Gilt der EU AI Act für Unternehmen außerhalb der EU?
Der EU AI Act erfasst Anbieter und Betreiber, die KI-Systeme auf dem EU-Markt in Verkehr bringen oder deren Systeme Menschen in der EU bedienen. Ein Unternehmen mit Sitz außerhalb der EU, das europäischen Kunden ein Chat-Widget anbietet, fällt also darunter. In der Praxis setzen die meisten Supportteams den Hinweis überall um, statt nach dem Standort der Besucher zu unterscheiden.
Ist ein Kundenservice-Chatbot nach dem AI Act ein Hochrisiko-System?
Ein Kundenservice-Chatbot ist in der Regel kein Hochrisiko-System. Ein Chatbot, der Fragen aus Ihrer eigenen Wissensdatenbank beantwortet, fällt unter die Transparenzpflicht nach Artikel 50 statt unter die Hochrisiko-Kategorien, die Bereiche wie Personalauswahl, Kreditwürdigkeitsprüfung und Biometrie abdecken. Lassen Sie Ihren eigenen Anwendungsfall prüfen, wenn die KI über Zugang, Preise oder Ansprüche mitentscheidet.
Welche DSGVO-Schritte brauche ich vor dem Start eines KI-Chatbots?
Vor dem Start eines KI-Chatbots brauchen Sie eine Rechtsgrundlage, einen AVV mit Ihrem Anbieter, Klarheit darüber, wo Daten gespeichert werden und welche Unterauftragsverarbeiter beteiligt sind, eine Aufbewahrungsfrist für Chatprotokolle, eine Identitätsprüfung, bevor der Bot Bestelldaten herausgibt, und einen funktionierenden Prozess für Auskunfts- und Löschersuchen.
Lösen Sie mehr Tickets automatisch.
Verbinden Sie Ihr Help-Center, testen Sie Antworten auf Ihre eigenen Fragen und prüfen Sie Übergaben, bevor Sie live gehen.