Warum der EU AI Act für Contact Center jetzt relevant ist

Die KI-Verordnung der EU (Verordnung (EU) 2024/1689, „EU AI Act") ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz. Sie gilt schrittweise — und ein zentraler Baustein betrifft Contact Center direkt: die Transparenzpflichten nach Artikel 50. Wer Voicebots, Chatbots, KI-generierte Inhalte oder Emotionserkennung einsetzt, muss offenlegen, dass KI im Spiel ist.

Für Betreiber von Kundenservice- und Contact-Center-Umgebungen heißt das: Es geht nicht länger nur um Servicequalität, sondern um eine dokumentierte gesetzliche Pflicht mit Bußgeldrisiko.

Die neue Zeitachse nach dem Digital Omnibus

Im Juli 2026 hat die EU mit dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27.07.2026) Teile der ursprünglichen Fristen verschoben — vor allem die Pflichten für Hochrisiko-Systeme. Wichtig: Die Transparenzpflichten nach Art. 50 wurden nicht verschoben.

Seit dem 2. Februar 2025 gelten die verbotenen Praktiken nach Art. 5, darunter Emotionserkennung am Arbeitsplatz. Seit dem 2. August 2025 gelten die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI). Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50 für Chatbots, Deepfakes, Emotionserkennung und KI-Inhalte. Ab dem 2. Dezember 2026 greift die Kennzeichnungs- und Wasserzeichenpflicht für KI-generierte Inhalte nach Art. 50 Abs. 2. Die Hochrisiko-Pflichten nach Annex III wurden durch den Digital Omnibus auf den 2. Dezember 2027 verschoben, KI-Systeme in regulierten Produkten nach Annex I auf den 2. August 2028.

Kurz: Die Erleichterung durch den Digital Omnibus betrifft die aufwändigen Hochrisiko-Pflichten. Die Offenlegungspflichten im Kundenkontakt gelten bereits jetzt.

Artikel 50: Vier Transparenzpflichten im Kundenkontakt

Art. 50 verpflichtet Anbieter und Betreiber unabhängig davon, ob das System als Hochrisiko gilt. Vier Bereiche sind für Contact Center relevant.

Direkte Interaktion: Chatbots und Voicebots kennzeichnen

Wenn Kundinnen und Kunden mit einem KI-System sprechen oder chatten, müssen sie darüber informiert werden, dass sie mit einer KI interagieren — es sei denn, das ist aus dem Kontext offensichtlich. Für Voicebots bedeutet das eine klare Ansage oder Kennzeichnung zu Gesprächsbeginn.

KI-generierte Inhalte kennzeichnen

Synthetisch erzeugte Texte, Audio-, Bild- oder Videoinhalte müssen als künstlich erzeugt maschinenlesbar gekennzeichnet werden. Diese Wasserzeichenpflicht nach Art. 50 Abs. 2 greift ab dem 2. Dezember 2026.

Emotionserkennung: besondere Vorsicht

Wird ein System zur Emotionserkennung eingesetzt, sind die betroffenen Personen darüber zu informieren. Achtung: Am Arbeitsplatz und in Bildungseinrichtungen ist Emotionserkennung grundsätzlich verboten (Art. 5) — mit engen Ausnahmen aus Sicherheits- oder medizinischen Gründen. Für Contact Center ist das besonders heikel, wenn KI die Stimmung der eigenen Agenten analysieren soll.

Deepfakes und KI-Texte zu öffentlichen Themen

KI-erzeugte Deepfake-Inhalte und veröffentlichte KI-Texte zu Angelegenheiten von öffentlichem Interesse sind als solche zu kennzeichnen.

Was das konkret für Contact Center bedeutet

Der praktische Kern für Kundenservice-Betreiber: Voicebots und Chatbots müssen zu Beginn jeder KI-Interaktion offengelegt werden, sodass klar ist, dass keine reale Person antwortet. Wichtig ist die Trennung von Kunden- und Agentenemotion — die KI-gestützte Stimmungsanalyse von Kundengesprächen ist mit Information und Rechtsgrundlage möglich, die Analyse von Beschäftigten-Emotionen am Arbeitsplatz dagegen regelmäßig unzulässig. Automatisch generierte Antworten oder Zusammenfassungen sind als KI-erzeugt auszuweisen, und alle Informationsprozesse sollten nachvollziehbar dokumentiert sein.

Bußgelder: Warum das kein Randthema ist

Verstöße gegen die Transparenzpflichten nach Art. 50 können mit Bußgeldern von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für verbotene Praktiken nach Art. 5 liegt der Rahmen sogar bei bis zu 35 Mio. Euro oder 7 % (Art. 99). Durchgesetzt wird das von den nationalen Marktüberwachungsbehörden.

Umsetzung in der Praxis

Für die Umsetzung empfiehlt sich ein klarer Ablauf: Zunächst ein KI-Inventar erstellen — wo laufen Voicebots, Chatbots, KI-Zusammenfassungen und Stimmungsanalysen? Anschließend die Offenlegung einbauen, also einen hörbaren oder sichtbaren Hinweis, dass es sich um KI handelt. Danach die Emotionserkennung prüfen: Werden Beschäftigte analysiert, ist der Einsatz zu stoppen oder rechtlich zu klären. Zusätzlich die Kennzeichnung KI-generierter Inhalte vorbereiten (Wasserzeichen ab Dezember 2026), alle Prozesse, Zeitpunkte und Verantwortlichkeiten dokumentieren und die KI-Ausgaben regelmäßig auf Richtigkeit und Diskriminierungsfreiheit überwachen.

Wie onsoft bei der KI-Transparenz unterstützt

onsoft verbindet Gesprächsaufzeichnung, KI-Sprachanalyse und Qualitätsmanagement in einem revisionssicheren System. Damit lassen sich KI-gestützte Auswertungen im Contact Center nachvollziehbar dokumentieren — inklusive Nachweis, dass Kundinnen und Kunden über den KI-Einsatz informiert wurden. Für Voicebots hilft die kontinuierliche Qualitäts- und Transparenzkontrolle, Offenlegung und Antwortqualität konsistent sicherzustellen.

Häufige Fragen

Gelten die Transparenzpflichten des EU AI Act trotz des Digital Omnibus schon?

Ja. Der Digital Omnibus hat vor allem die Hochrisiko-Pflichten verschoben. Die Transparenzpflichten nach Art. 50 gelten unverändert seit dem 2. August 2026.

Muss ich offenlegen, dass ein Voicebot kein Mensch ist?

Ja. Nutzerinnen und Nutzer müssen informiert werden, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Bei Voicebots erfolgt das typischerweise per Ansage zu Gesprächsbeginn.

Ist Emotionserkennung im Contact Center erlaubt?

Am Arbeitsplatz gegenüber den eigenen Beschäftigten ist Emotionserkennung grundsätzlich verboten (Art. 5), mit engen Ausnahmen. Die Analyse von Kundenemotionen ist mit Information und Rechtsgrundlage möglich.

Wie hoch sind die Bußgelder beim EU AI Act?

Für Verstöße gegen Art. 50 bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes; für verbotene Praktiken bis zu 35 Mio. Euro oder 7 %.

Ab wann müssen KI-Inhalte mit Wasserzeichen gekennzeichnet werden?

Die maschinenlesbare Kennzeichnung KI-generierter Inhalte nach Art. 50 Abs. 2 greift ab dem 2. Dezember 2026.