Die KI-Verordnung für den Mittelstand: Was Betreiber ab 2026 tatsächlich tun müssen – AI-Act-Pflichten, KI-Kennzeichnung und eine Checkliste

Wichtig vorab: Dieser Beitrag ist eine Orientierung aus der Praxis eines Betreibers, keine Rechtsberatung. Er gibt den Stand des Verordnungstextes zum Zeitpunkt der Veröffentlichung wieder. Für die verbindliche Bewertung Ihres konkreten Einsatzes ziehen Sie bitte Ihre Rechtsberatung oder Ihren Datenschutzbeauftragten hinzu.

Wir schreiben aus dem eigenen Betrieb. Seit 2009 sind wir als Agentur am Markt, seit 14 Monaten arbeiten wir mit 43 KI-Stellen, jede mit Personalakte, Probezeit und klar umrissener Zuständigkeit, verteilt auf 5 Systeme. Damit sind wir genau das, was die KI-Verordnung einen Betreiber nennt – und wir haben uns die Fragen, um die es hier geht, zuerst für uns selbst beantworten müssen. Was wir dabei gelernt haben: Die meisten Pflichten sind vernünftig, wenige sind neu, und keine davon verlangt, dass Sie KI aus Ihrem Betrieb verbannen.

Erst die Rolle klären: Anbieter oder Betreiber?

Die KI-Verordnung – im Englischen AI Act, offiziell Verordnung (EU) 2024/1689 – verteilt ihre Pflichten nach Rollen. Die wichtigste Unterscheidung für den Mittelstand ist die zwischen Anbieter und Betreiber. Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen auf den Markt. Betreiber setzen ein KI-System in eigener Verantwortung ein, im Rahmen ihrer beruflichen Tätigkeit.

Ein Maschinenbaubetrieb, der eine KI-Assistenz für seinen Posteingang nutzt, ist Betreiber. Ein Handwerksbetrieb, der Angebotsentwürfe von einer KI-Stelle vorbereiten lässt, ist Betreiber. Die Pflichten für Betreiber sind deutlich schlanker als die für Anbieter – und das ist die erste gute Nachricht.

Die zweite Nachricht ist eine Warnung: Ein Betreiber kann zum Anbieter werden. Die Verordnung sieht das unter anderem vor, wenn Sie ein Hochrisiko-System unter eigenem Namen vertreiben, es wesentlich verändern oder ein KI-System für einen Zweck einsetzen, der es zum Hochrisiko-System macht (Art. 25 KI-Verordnung). Praktisch heißt das: Wer ein allgemeines KI-Werkzeug eigenmächtig für die Vorauswahl von Bewerbern einspannt, verlässt die bequeme Betreiberrolle. Der Zweck entscheidet, nicht das Werkzeug.

KI-Verordnung im Mittelstand: Was seit 2025 gilt und was ab August 2026 dazukommt

Die Verordnung tritt nicht an einem Tag in Kraft, sondern in Stufen. Für Betreiber im Mittelstand sind diese Termine wichtig:

Ein ehrlicher Hinweis zum Stand: Ende 2025 hat die EU-Kommission Vereinfachungen vorgeschlagen, den sogenannten digitalen Omnibus. Er könnte unter anderem die Hochrisiko-Fristen nach hinten verschieben und die Schulungspflicht anders fassen. Die Termine oben folgen dem Verordnungstext. Prüfen Sie vor einer größeren Entscheidung, ob und in welcher Form die Änderungen beschlossen sind. An der Grundrichtung – Verbote, Kompetenz, Transparenz – ändert das für die meisten Betriebe wenig.

Die vier Risikoklassen – und wo Ihr Betrieb typischerweise steht

Die Verordnung ordnet KI-Einsätze nach ihrem Risiko für Menschen. Entscheidend ist nicht, wie leistungsfähig eine KI ist, sondern wofür sie eingesetzt wird.

Die meisten Einsätze im Mittelstand liegen in den unteren beiden Zeilen. Verwaltung, Buchhaltung, Vertrieb und Kommunikation sind keine Hochrisiko-Bereiche. Aufmerksam werden sollten Sie an zwei Stellen: im Personalwesen, sobald eine KI Bewerber sortiert, Leistung bewertet oder Aufgaben zuteilt, und in der Produktentwicklung, wenn KI in Ihren eigenen Maschinen oder Geräten eine Sicherheitsfunktion übernimmt. Im zweiten Fall sind Sie allerdings Hersteller und damit Anbieter – das ist ein eigenes Thema, das in diesem Beitrag nicht weiter vertieft wird.

AI Act: Betreiber-Pflichten, die jeden Betrieb treffen

Unabhängig von der Risikoklasse gibt es drei Dinge, die jeder Betreiber im Blick haben muss. Mehr ist es für den Großteil der Betriebe nicht.

Erstens: KI-Kompetenz sicherstellen (Art. 4). Wer KI einsetzt, muss nach besten Kräften dafür sorgen, dass die Menschen, die damit arbeiten, ausreichend Bescheid wissen – angemessen zu ihrer Aufgabe und zum Einsatz. Ein Zertifikat verlangt die Verordnung nicht. Was sie verlangt, ist, dass niemand einem System blind vertraut, dessen Grenzen er nicht kennt. Dazu gleich mehr.

Zweitens: Die Verbote kennen (Art. 5). Einige Praktiken sind seit Februar 2025 ganz untersagt. Für einen Betrieb sind vor allem diese relevant: keine Erkennung von Emotionen am Arbeitsplatz, keine Bewertung von Menschen nach ihrem sozialen Verhalten, keine Techniken, die Menschen unterschwellig manipulieren oder ihre Schwächen ausnutzen, und keine biometrische Einordnung nach sensiblen Merkmalen. Das klingt weit weg vom Alltag – bis ein Anbieter ein Werkzeug anbietet, das „die Stimmung im Kundengespräch“ oder „das Engagement im Team“ messen will. Dann lohnt sich ein zweiter Blick.

Drittens: Transparenz, wo sie vorgeschrieben ist (Art. 50). Ab dem 2. August 2026 müssen Menschen in bestimmten Fällen erkennen können, dass sie es mit KI zu tun haben. Das ist der Teil, über den am meisten Unsicherheit herrscht – deshalb bekommt er einen eigenen Abschnitt.

Was für Betreiber im minimalen oder begrenzten Risiko nicht verlangt wird: keine Registrierung in einer EU-Datenbank, keine Konformitätsbewertung, keine Grundrechte-Folgenabschätzung, kein eigenes Qualitätsmanagementsystem. Diese Pflichten betreffen Anbieter und Betreiber von Hochrisiko-Systemen.

KI-Kennzeichnung: wann Sie offenlegen müssen – und wann es sich trotzdem lohnt

Die KI-Kennzeichnung nach Art. 50 ist keine Pflicht, jeden KI-gestützten Satz zu markieren. Sie greift in vier klar umrissenen Fällen:

• Chat und Sprachassistenz. Spricht oder schreibt ein Mensch direkt mit einer KI, etwa im Chat auf Ihrer Website, muss er das erkennen können – es sei denn, es ist ohnehin offensichtlich. Die Pflicht liegt formal beim Anbieter, der das System so bauen muss. Als Betreiber achten Sie darauf, dass die Kennzeichnung eingeschaltet ist und nicht weggestaltet wird.
• Realistisch wirkende Bilder, Videos und Stimmen. Erzeugen Sie mit KI Inhalte, die echte Personen, Orte oder Ereignisse täuschend echt zeigen, müssen Sie offenlegen, dass sie künstlich erzeugt oder verändert sind. Für erkennbar künstlerische oder satirische Inhalte gelten erleichterte Regeln.
• Texte zu Themen von öffentlichem Interesse. Veröffentlichen Sie KI-erzeugte Texte, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen Sie das offenlegen. Die Pflicht entfällt, wenn ein Mensch den Text geprüft hat und jemand die redaktionelle Verantwortung trägt.
• Emotionserkennung und biometrische Einordnung. Wer solche Systeme dort einsetzt, wo sie erlaubt sind, muss die betroffenen Menschen informieren. Am Arbeitsplatz ist Emotionserkennung ohnehin verboten.

Der dritte Punkt ist für die Praxis aufschlussreich: Die Verordnung selbst belohnt die menschliche Prüfung. Ein Text, den eine KI entworfen und ein Mensch gelesen, verantwortet und freigegeben hat, fällt aus der Kennzeichnungspflicht heraus. Das ist dieselbe Logik, nach der wir arbeiten: Die KI bereitet vor, der Mensch gibt frei.

Und die Geschäftspost? Eine Angebotsmail, die eine KI-Stelle entworfen und Ihr Vertriebsleiter freigegeben hat, ist nach der KI-Verordnung in aller Regel nicht kennzeichnungspflichtig. Wir kennzeichnen KI-Absender trotzdem – im Kundenkontakt sogar unabschaltbar. Aus zwei Gründen: Wer den Eindruck erweckt, ein Mensch habe geschrieben, wo es eine Maschine war, kann wettbewerbsrechtlich Ärger bekommen. Und wichtiger: Vertrauen entsteht, wenn niemand raten muss. Ein Kunde, der später erfährt, dass er monatelang mit einer KI korrespondiert hat, ohne es zu wissen, ist ein verlorener Kunde. Eine klare Kennzeichnungsregel für den ganzen Betrieb kostet wenig und erspart jede Einzelfallprüfung.

Schulung: was „ausreichende KI-Kompetenz“ praktisch heißt

Die Schulungspflicht aus Art. 4 ist die einzige Betreiberpflicht, die wirklich jeden trifft, der KI einsetzt – auch den Betrieb mit zehn Mitarbeitenden und einer einzigen KI-Anwendung. Die gute Nachricht: Die Verordnung schreibt weder Umfang noch Form vor. Sie verlangt Maßnahmen, die zur Aufgabe, zum Vorwissen und zum Einsatz passen.

Für einen Betrieb im Mittelstand heißt das in der Regel:

• Grundlagen für alle, die mit KI arbeiten: wie ein Sprachmodell zu seinen Antworten kommt, warum es überzeugend klingende Fehler machen kann, welche Daten in welches System dürfen und welche nicht.
• Vertiefung für die, die freigeben: woran man einen schwachen Entwurf erkennt, wann man nachfragt statt freigibt, wer bei Zweifeln entscheidet. Die Freigabe ist nur so gut wie der Mensch, der sie erteilt.
• Klare Hausregeln: welche Werkzeuge erlaubt sind, was nicht über private Konten läuft, wie gekennzeichnet wird.
• Ein schlichter Nachweis: Datum, Teilnehmende, Inhalte. Eine Tabelle genügt. Ein Zertifikat eines externen Anbieters ist keine Pflicht.

Bei uns ist die Schulung der Führungskräfte fester Teil jeder Einführung – nicht wegen der Verordnung, sondern weil der ganze Aufbau ohne Führung nicht funktioniert. Eine KI-Stelle, deren Ergebnisse niemand beurteilen kann, nimmt keine Arbeit ab, sondern verlagert sie. Wie wir prüfen, ob eine Stelle ihre Aufgabe erfüllt, beschreibt der Beitrag Die Probezeit einer KI-Stelle.

Dokumentation: was Pflicht ist und was Sie sich selbst schulden

Für Betreiber im minimalen und begrenzten Risiko verlangt die KI-Verordnung wenig formale Dokumentation. Trotzdem empfehlen wir vier Unterlagen, weil sie bei jeder Nachfrage – vom Kunden, vom Datenschutzbeauftragten, vom Betriebsrat oder einer Behörde – die Antwort in fünf Minuten möglich machen:

1. Ein KI-Verzeichnis. Welche KI-Systeme setzen Sie ein, wofür, von welchem Anbieter, mit welchen Daten, in welcher Risikoklasse – und wer ist verantwortlich? Eine Zeile je Einsatz.
2. Der Schulungsnachweis. Wer wurde wann worin geschult.
3. Die Kennzeichnungsregel. Wie Ihr Betrieb KI-Inhalte und KI-Absender kenntlich macht.
4. Eine kurze Nutzungsrichtlinie. Welche Werkzeuge erlaubt sind, welche Daten nicht hineingehören, wer freigibt.

Daneben gilt die Datenschutz-Grundverordnung unverändert weiter: Jede KI-Anwendung, die personenbezogene Daten verarbeitet, gehört in Ihr Verzeichnis der Verarbeitungstätigkeiten, braucht einen Auftragsverarbeitungsvertrag mit dem Dienstleister und bei höherem Risiko eine Datenschutz-Folgenabschätzung. Was das bei KI-Stellen konkret bedeutet, steht im Beitrag KI-Datenschutz im Mittelstand. Und wo es einen Betriebsrat gibt, hat er bei technischen Einrichtungen, die Verhalten oder Leistung erfassen können, ein Mitspracherecht. Ihn früh einzubinden ist klüger, als ihn später zu überzeugen.

Falls Sie doch ein Hochrisiko-System betreiben, etwa ein Bewerbermanagement mit KI-Vorauswahl, wird es deutlich umfangreicher (Art. 26): Einsatz nach Gebrauchsanweisung des Anbieters, menschliche Aufsicht durch geschulte Personen, Kontrolle der Eingabedaten, laufende Überwachung, Aufbewahrung der automatisch erzeugten Protokolle für mindestens sechs Monate und Information der Beschäftigten und ihrer Vertretung, bevor das System am Arbeitsplatz startet. Spätestens dann gehört fachliche Begleitung an den Tisch.

Wie wir die KI-Verordnung im eigenen Betrieb handhaben

Ein Ratgeber ist glaubwürdiger, wenn der Autor zeigt, wie er es selbst macht. Das ist unser Stand:

• Rolle: Wir sind Betreiber von KI-Systemen, keine Hersteller von Sprachmodellen. Unsere Einsätze und die unserer Kunden liegen in Verwaltung, Buchhaltung, Vertrieb und Kommunikation – nach unserer Einschätzung kein Hochrisiko-Fall.
• Bewusster Zuschnitt: Unsere Stelle für Personal und Bewerbung nimmt Bewerbungen auf und gibt Auskunft, trifft aber keine Vorauswahl und bewertet niemanden. Das bleibt Führungsaufgabe – und hält uns aus dem Hochrisiko-Bereich heraus.
• Rote Linien: keine KI-Bewertung von Beschäftigten, keine verbotenen Praktiken. Rückt ein gewünschter Einsatz in diese Nähe, sagen wir das vor der Umsetzung – und setzen ihn im Zweifel nicht um.
• Kennzeichnung: KI-Absender sind gekennzeichnet, im Kundenkontakt unabschaltbar.
• Freigabe: Kein Angebot, keine Buchung, keine Mail wird aktiv, bevor ein Mensch sie freigegeben hat. Hinter jeder KI-Stelle steht außerdem ein Prüfer, der nicht dieselbe Stelle ist.
• Wissen mit Rechten: Unser Firmengehirn speichert das Wissen des Betriebs als geprüfte Karten mit Vertraulichkeitsstufen. Jede KI-Stelle liest nur, was ihre Aufgabe verlangt, und neues Wissen wird erst nach Freigabe Teil davon.
• Prüfung vor jeder Änderung: Bevor eine neue Version unseres Arbeitsplatzes ausgerollt wird, laufen rund 65 Pflichttests. Seit Juli 2025 sind so rund 400 Versionen entstanden.

Und was noch fehlt, sagen wir offen: Die schriftliche Betreiberdokumentation zur KI-Verordnung, die über unsere öffentliche Darstellung hinausgeht, schließen wir gerade – zusammen mit einer anwaltlichen Kurzprüfung. Den vollständigen Stand mit allen technischen Fakten finden Sie auf unserer Seite Vertrauen: was wir zu Sicherheit, Datenschutz und KI-Verordnung belegen können.

Checkliste: die KI-Verordnung im Betrieb in acht Schritten

Diese Liste ist kein Ersatz für eine rechtliche Prüfung, aber sie bringt Ordnung in die Sache. Die meisten Betriebe schaffen sie in einem halben Tag.

1. Bestand aufnehmen. Welche KI-Werkzeuge werden im Betrieb genutzt – auch die, die Mitarbeitende privat mitgebracht haben? Fragen Sie offen und ohne Vorwurf.
2. Rolle prüfen. Setzen Sie die Systeme nur ein (Betreiber), oder bringen Sie eigene KI-Produkte auf den Markt (Anbieter)?
3. Zweck je Einsatz festhalten. Wofür genau wird jedes System genutzt? Der Zweck bestimmt die Risikoklasse.
4. Risikoklasse einordnen. Prüfen Sie besonders Personalwesen, Leistungsbewertung und Kreditentscheidungen. Alles, was nach Verbot klingt, wird sofort gestoppt.
5. Kennzeichnung regeln. Chat auf der Website, realistische KI-Bilder und -Stimmen, KI-Absender in der Kundenkommunikation: eine Regel für den ganzen Betrieb.
6. Menschen schulen. Grundlagen für alle, Vertiefung für die, die freigeben – und einen schlichten Nachweis führen.
7. Freigabe festlegen. Für jeden Einsatz: Wer liest gegen, wer gibt frei, was geht ohne Freigabe hinaus? Die richtige Antwort auf die letzte Frage ist: nichts mit Außenwirkung.
8. Dokumentieren und wiedervorlegen. KI-Verzeichnis, Schulungsnachweis, Kennzeichnungsregel, Nutzungsrichtlinie – und ein fester Termin im Jahr, an dem Sie die Liste prüfen. Neue Werkzeuge kommen schneller, als man denkt.

Was Sie mitnehmen sollten

Die KI-Verordnung für den Mittelstand ist kein Grund, KI zu meiden, und kein Grund zur Eile. Als Betreiber in Verwaltung, Vertrieb oder Kommunikation haben Sie drei Pflichten, die wirklich zählen: die Verbote kennen, die Menschen schulen und dort kennzeichnen, wo es vorgeschrieben ist. Aufmerksam werden Sie, sobald eine KI über Menschen urteilen soll – über Bewerber, über Leistung, über Kreditwürdigkeit. Und wer ohnehin nach dem Grundsatz arbeitet, dass ein Mensch jede Außenwirkung freigibt, erfüllt den Geist der Verordnung schon im Alltag.

Wenn Sie wissen wollen, wo Ihre geplanten Einsätze in diesem Raster stehen, vereinbaren Sie ein Erstgespräch: 30 Minuten, kein Verkaufsgespräch, danach binnen 48 Stunden ab dem Gespräch, werktags, eine schriftliche Einschätzung. Die rechtliche Bewertung ersetzt das nicht – aber Sie gehen mit einer sortierten Liste in das Gespräch mit Ihrer Rechtsberatung.