WissenBegriffvon Michael Selck

Kennzeichnungspflicht für KI

Die Kennzeichnungspflicht für KI verlangt nach Artikel 50 der EU-KI-Verordnung, dass Menschen erfahren, wenn sie mit einem KI-System sprechen, etwa einem Chat- oder Telefonassistenten, und dass bestimmte KI-erzeugte oder KI-veränderte Inhalte wie Deepfakes als solche erkennbar sind. Im Betrieb heißt das: Jede KI, die nach außen kommuniziert, gibt sich klar als KI zu erkennen.

Was bedeutet Kennzeichnungspflicht für KI?

Die Kennzeichnungspflicht ist der Teil der KI-Verordnung, den Kunden und Geschäftspartner eines Betriebs unmittelbar bemerken. Im Gesetz heißt sie „Transparenzpflichten“ und steht in Artikel 50. Nach dem Verordnungstext gilt sie seit dem 2. August 2026. Die EU-Kommission hat Ende 2025 Vereinfachungen vorgeschlagen, die einzelne Fristen verschieben könnten – am Grundsatz ändert das nichts: Wer mit einer Maschine spricht oder ein täuschend echtes künstliches Bild sieht, soll das wissen.

Artikel 50 regelt vier Fälle. Erstens müssen KI-Systeme, die direkt mit Menschen kommunizieren, so gestaltet sein, dass die Menschen erfahren, dass sie mit einer KI zu tun haben – es sei denn, das ist aus dem Zusammenhang offensichtlich. Zweitens müssen Systeme, die Texte, Bilder, Töne oder Videos erzeugen, ihre Ergebnisse maschinenlesbar als künstlich markieren. Drittens müssen Betriebe, die Emotionserkennung oder biometrische Kategorisierung einsetzen, die betroffenen Personen informieren. Viertens müssen Deepfakes – künstlich erzeugte oder veränderte Bilder, Töne und Videos, die echt wirken – offengelegt werden, ebenso KI-Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen, sofern kein Mensch sie redaktionell prüft und verantwortet. Der Hinweis muss klar und eindeutig sein und spätestens beim ersten Kontakt erfolgen.

Die Pflichten verteilen sich auf zwei Rollen. Der Anbieter, der ein KI-System entwickelt oder unter eigenem Namen anbietet, muss Chat und Telefonassistenz so bauen, dass sie sich zu erkennen geben, und die maschinenlesbare Markierung liefern. Der Betreiber – also der Betrieb, der das System einsetzt – muss Deepfakes und bestimmte KI-Texte offenlegen. In der Praxis trägt der Betrieb auch beim Chat Verantwortung: Er richtet ihn ein, wählt Begrüßung und Tonfall und darf den Hinweis weder abschalten noch verstecken. Gegenüber seinen Kunden kann er zudem nach Wettbewerbsrecht in der Pflicht stehen, wenn eine verschleierte KI sie in die Irre führt.

Abzugrenzen ist die Kennzeichnungspflicht von mehreren Nachbarbegriffen. Sie ist keine Schulungspflicht – dass Mitarbeitende den Umgang mit KI beherrschen, regelt die KI-Kompetenz in Artikel 4. Sie ersetzt nicht die Informationspflichten der DSGVO: Wer Daten im Chat verarbeitet, muss darüber zusätzlich informieren (siehe DSGVO-konforme KI). Und sie ist kein Stempel „mit KI erstellt“ unter jedem Schriftstück: Eine Angebotsmail, die ein Mensch geprüft und unter seinem Namen verschickt, ist in der Regel nicht betroffen. Wie ein Betrieb das alles intern regelt, legt seine KI-Richtlinie im Unternehmen fest.

Kennzeichnungspflicht für KI kurz erklärt: die wichtigsten Punkte

Wer direkt mit einer KI kommuniziert – im Website-Chat, am Telefon, per Messenger –, muss das spätestens beim ersten Kontakt erfahren.
Täuschend echte, künstlich erzeugte oder veränderte Bilder, Videos und Stimmen sind als künstlich offenzulegen; bei erkennbar künstlerischen oder satirischen Werken genügt ein zurückhaltender Hinweis.
KI-Texte zur Information der Öffentlichkeit sind zu kennzeichnen, außer ein Mensch prüft sie redaktionell und trägt die Verantwortung.
Anbieter und Betreiber haben getrennte Aufgaben – der Betrieb kann sich beim Einkauf eines Werkzeugs nicht vollständig auf den Hersteller verlassen.
Der Hinweis muss klar, eindeutig und für alle wahrnehmbar sein, auch für Menschen mit Seh- oder Höreinschränkung; Kleingedrucktes reicht nicht.

Kennzeichnungspflicht für KI in der Praxis

Dienstleister mit Chat auf der Website: Abends fragt ein Interessent nach freien Terminen. Das Chatfenster trägt im Kopf den Hinweis „KI-Assistenz“, und der erste Satz lautet sinngemäß: „Ich bin die KI-Assistenz dieses Betriebs und nehme Ihr Anliegen auf.“ Zusagen macht der Chat nicht; er bereitet den Vorgang vor, ein Mensch meldet sich am nächsten Morgen.
Handwerksbetrieb mit Telefonannahme: Eine KI-Telefonassistenz nimmt Anrufe an, wenn alle auf der Baustelle sind. Sie stellt sich im ersten Satz als KI vor, erfasst das Anliegen und liest dem Anrufer die Zusammenfassung vor. Weil ein gesprochener Satz nicht nachträglich korrigiert werden kann, steht die Kennzeichnung fest im Begrüßungstext und lässt sich in der Einrichtung nicht wegkonfigurieren.
Industriebetrieb im Marketing: Für einen Social-Media-Beitrag entsteht mit KI ein fotorealistisches Bild einer Werkhalle mit Mitarbeitenden, die es nicht gibt. Weil das Bild wie ein echtes Foto aus dem Betrieb wirkt, bekommt es den Hinweis „KI-generiert“. Ein erkennbar illustratives Grafikmotiv wäre unkritischer – im Zweifel kennzeichnet der Betrieb.

Woran Sie erkennen, dass Ihr Betrieb die Kennzeichnungspflicht im Griff hat

Es gibt eine Liste aller Stellen, an denen KI nach außen spricht oder Inhalte erzeugt: Chat, Telefon, Messenger, automatische Mails, Bilder und Videos.
Für jede dieser Stellen ist festgelegt, wie der Hinweis lautet, wo er steht und wann er erscheint – spätestens beim ersten Kontakt.
Die Kennzeichnung ist in den Systemen fest eingestellt und nicht von der Laune einzelner Mitarbeitender abhängig.
KI-erzeugte Bilder und Videos, die echt wirken könnten, werden vor der Veröffentlichung geprüft und gekennzeichnet; ein Mensch gibt sie frei.
Neue Werkzeuge werden vor dem Start daraufhin geprüft, ob der Anbieter die Kennzeichnung und die maschinenlesbare Markierung mitbringt.

Typische Fehler

Den Hinweis verstecken: Die Kennzeichnung steht nur in den Nutzungsbedingungen oder im Datenschutztext, während der Chat sich mit Vornamen und Smiley vorstellt, als säße dort ein Mensch.
Zu menschlich klingen wollen: Eine Telefonassistenz mit natürlicher Stimme und ohne Hinweis im ersten Satz lässt Anrufer minutenlang im Unklaren. Das verstößt gegen die Transparenzpflicht und kostet Vertrauen.
Alles kennzeichnen, auch das Geprüfte: Ein Pauschalhinweis „mit KI erstellt“ unter jeder freigegebenen Mail verwässert die Aussage. Kennzeichnung gehört dorthin, wo ein Mensch sonst getäuscht würde.
Sich nur auf den Hersteller verlassen: Der Anbieter liefert die Funktion, aber der Betrieb entscheidet, ob sie in seiner Einrichtung sichtbar bleibt – und ob Deepfakes im eigenen Marketing offengelegt werden.

Unser Bezug

In unserem Betrieb arbeiten seit 14 Monaten 43 KI-Stellen, und die Regel dahinter lautet: Die KI bereitet vor, der Mensch gibt frei. Kennzeichnung gehört für uns dazu, nicht erst seit Artikel 50. KI-Absender sind bei uns gekennzeichnet, im Kundenkontakt unabschaltbar. Unsere Kundenschnittstelle Aura stellt sich auf der Website als KI vor, spricht nur aus freigegebenem Wissen und übergibt jedes Anliegen an einen Menschen. Nichts mit Außenwirkung geht hinaus, bevor jemand es freigegeben hat – und wo eine KI selbst spricht, sagt sie das im ersten Satz.

In der Beratung gehen wir mit Ihnen durch, wo in Ihrem Betrieb KI schon nach außen spricht oder Inhalte erzeugt, wie der Hinweis dort lauten sollte und wer freigibt. Eine rechtliche Prüfung ersetzt das nicht, aber Sie gehen mit einer sortierten Liste ins Gespräch mit Ihrer Rechtsberatung. Für die Beratung ist bis zu 80 % Förderung möglich, je nach Betrieb und Standort. Die Umsetzung beauftragen Sie getrennt, wenn Sie wollen: im AI Workspace mit Freigaben an jeder Außenwirkung oder als individuelle Lösung.

Erstgespräch

Gibt sich jede KI in Ihrem Betrieb klar als KI zu erkennen?

Im Erstgespräch prüfen wir gemeinsam, wo bei Ihnen Chat, Telefon oder KI-Inhalte nach außen wirken, was davon gekennzeichnet sein muss und wer freigibt – nüchtern, in 30 Minuten und ohne Verkaufsgespräch.

Termin buchen Erstgespräch anfragen

Weiterführende Beiträge

Häufige Fragen zu Kennzeichnungspflicht für KI

Ab wann gilt die Kennzeichnungspflicht für KI?

Nach dem Text der KI-Verordnung gelten die Transparenzpflichten aus Artikel 50 seit dem 2. August 2026. Die EU-Kommission hat Ende 2025 Vereinfachungen vorgeschlagen, die einzelne Fristen – etwa für die maschinenlesbare Markierung – verschieben könnten. Für Chat und Telefon lohnt das Abwarten nicht: Der Hinweis, dass hier eine KI spricht, kostet einen Satz und schafft sofort Klarheit.

Muss eine mit KI geschriebene E-Mail gekennzeichnet werden?

In der Regel nicht, wenn ein Mensch sie geprüft und freigegeben hat und sie unter seinem Namen verschickt wird. Die Pflicht zielt auf den direkten Austausch mit einer KI, auf täuschend echte Bilder, Videos und Stimmen sowie auf KI-Texte zu Themen von öffentlichem Interesse ohne redaktionelle Verantwortung. Schreibt dagegen eine KI unter eigenem Absender, sollte das erkennbar sein – wir kennzeichnen solche Absender grundsätzlich.

Wer ist verantwortlich: der Anbieter des Chatbots oder der Betrieb?

Beide, mit unterschiedlichen Aufgaben. Der Anbieter muss ein System, das mit Menschen spricht, so bauen, dass es sich als KI zu erkennen gibt, und KI-erzeugte Inhalte maschinenlesbar markieren. Der Betrieb als Betreiber muss Deepfakes offenlegen und darf den Hinweis in seiner Einrichtung weder abschalten noch verstecken; gegenüber seinen Kunden steht er zudem nach Wettbewerbsrecht in der Verantwortung, wenn sie getäuscht werden.

Wie muss ein KI-Chat gekennzeichnet sein?

Klar, eindeutig und spätestens beim ersten Kontakt. Bewährt haben sich ein sichtbarer Hinweis im Kopf des Chatfensters und ein erster Satz, in dem sich die KI selbst als KI vorstellt. Ein Hinweis, der nur in den Nutzungsbedingungen oder im Datenschutztext steht, reicht nicht; außerdem sollte er auch für Menschen mit Seh- oder Lesebeeinträchtigung wahrnehmbar sein.

Was droht, wenn ein Betrieb nicht kennzeichnet?

Die KI-Verordnung sieht für Verstöße gegen die Transparenzpflichten Bußgelder vor, die nach Schwere und Unternehmensgröße gestaffelt sind; zuständig sind die nationalen Marktüberwachungsbehörden. Daneben kann eine verschleierte KI im Kundenkontakt als Irreführung nach Wettbewerbsrecht abgemahnt werden. Der größere Schaden entsteht oft schon früher: Ein Kunde, der sich getäuscht fühlt, ruft nicht wieder an.