KI-Datenschutz im Mittelstand: Was nach DSGVO in Deutschland bleibt, was vertraglich abgesichert ist – und was die KI-Verordnung von Unternehmen verlangt

Die Sorge ist berechtigt. Wer seinen Posteingang, seine Angebote oder sein Firmenwissen einer KI überlässt, gibt etwas aus der Hand, das er vorher selbst im Griff hatte. Im Mittelstand kommt dazu: Es gibt selten eine Rechtsabteilung, die das prüft, und der externe Datenschutzbeauftragte sieht das Vorhaben oft erst, wenn es schon läuft. Viele Betriebe lassen KI deshalb lieber ganz weg – oder nutzen sie heimlich über private Konten, was die schlechteste aller Lösungen ist.

Wir schreiben aus dem eigenen Betrieb. Seit 2009 sind wir als Agentur am Markt, seit 14 Monaten arbeiten wir mit 43 KI-Stellen, jede mit Personalakte, Probezeit und klar umrissenen Rechten, verteilt auf 5 Systeme. Alles, was in diesem Beitrag steht, gilt zuerst für unsere eigenen Daten – und dieselbe Bauweise richten wir für Kundensysteme ein. Die ausführliche Fassung mit allen technischen Fakten steht auf unserer Seite Vertrauen: was wir zu Sicherheit, Datenschutz und KI-Verordnung belegen können.

Warum ein Konformitäts-Etikett die falsche Antwort ist

Viele Anbieter beantworten die Datenschutzfrage mit einem Etikett: geprüft, konform, sicher. Das klingt beruhigend und hilft Ihnen nicht weiter. Denn die Datenschutz-Grundverordnung prüft nicht ein Produkt, sondern Ihre Verarbeitung: Welche Daten verarbeiten Sie, zu welchem Zweck, auf welcher Rechtsgrundlage, mit welchen Dienstleistern? Diese Fragen kann kein Anbieter für Sie beantworten. Er kann Ihnen nur die technischen Voraussetzungen und die Unterlagen liefern, damit Sie sie beantworten können.

Deshalb sagen wir es anders: Unser System ist nach dem Grundsatz Privacy by Design gebaut – Datenschutz ist eine Anforderung an die Bauweise, nicht ein Aufkleber am Ende. Die Betreiberdokumentation, die das schriftlich belegt, schließen wir gerade. Beides gehört in einen Satz, und keiner der beiden Teile wird weggelassen, nur weil er sich schlechter liest.

KI-Datenschutz im Mittelstand: drei Orte, an denen Ihre Daten sind

Die Frage „Wo landen unsere Daten?“ hat bei KI-Stellen keine einzelne Antwort, sondern drei. Wer sie auseinanderhält, versteht in fünf Minuten mehr als nach jedem Werbeprospekt.

Erstens: Wo die Daten liegen. Ihr Arbeitsplatz, Ihr Postfach, Ihr Kundenstamm und Ihr Firmengehirn mit dem Wissen Ihres Betriebs als geprüfte Karten liegen auf einem eigenen Server in Deutschland – bei Hetzner, einem nach ISO 27001 zertifizierten Rechenzentrumsbetreiber. Die Sicherungen liegen an einem zweiten Ort innerhalb der Europäischen Union. Jeder Betrieb bekommt sein eigenes System; was Ihre KI-Stellen bei Ihnen lernen, fließt weder zu uns noch zu einem anderen Kunden.

Zweitens: Wo gerechnet wird. Wenn eine KI-Stelle einen Antwortentwurf schreibt oder eine Rechnung liest, schickt sie eine Anfrage an ein Sprachmodell. Bei uns stammt dieses Modell von Anthropic. Die Anfrage enthält den Ausschnitt, den die Stelle für diese eine Aufgabe braucht – und sie kann nur enthalten, was die Stelle überhaupt sehen darf. Das Modell rechnet die Antwort, die Antwort kommt zurück auf Ihren Server. Hier verlässt ein Verarbeitungsschritt Ihr System, und genau hier greifen Verträge statt Standort.

Drittens: Wo entschieden wird. Am Arbeitsplatz eines Menschen. Kein Angebot, keine Buchung, keine Mail wird aktiv, bevor jemand sie gelesen und freigegeben hat. Die KI bereitet vor, der Mensch gibt frei. Das ist nicht nur gute Führung, sondern auch ein Datenschutz-Argument – dazu weiter unten mehr.

Was in Deutschland bleibt, was vertraglich abgesichert ist

Die dritte Zeile ist die, über die Anbieter am liebsten schweigen. Wir sagen sie offen: Ein pauschales Versprechen, dass kein Verarbeitungsschritt je Deutschland verlässt, geben wir nicht. Was wir zusagen, ist konkreter. Die Modellanfragen laufen unter den kommerziellen Bedingungen des Anbieters – Ihre Daten werden dort nicht zum Training verwendet und nur befristet gespeichert, eine Vereinbarung ohne jede Speicherung ist möglich. Die Übermittlung ist über einen Auftragsverarbeitungsvertrag und die Standardvertragsklauseln der EU abgesichert. Und wer die Modellanfragen in der EU halten will, bekommt eine Option über ein Rechenzentrum in Frankfurt.

Welche Variante für Ihren Betrieb die richtige ist, hängt davon ab, was Ihre KI-Stellen verarbeiten. Eine Stelle, die Werbetexte entwirft, braucht andere Vorkehrungen als eine, die Personalunterlagen oder Gesundheitsdaten Ihrer Kunden berührt. Das legen wir vor der Umsetzung fest und halten es schriftlich fest – nicht danach.

DSGVO und KI: welche Regeln für KI-Stellen konkret gelten

Für den Einsatz von KI hat die DSGVO keine eigenen Paragrafen. Sie gilt einfach – mit denselben Grundsätzen wie für Ihre Buchhaltungssoftware. Fünf davon sind bei KI-Stellen besonders wichtig:

• Datenschutz durch Technikgestaltung (Art. 25 DSGVO). Das ist Privacy by Design: Ein System muss so gebaut sein, dass es nur verarbeitet, was nötig ist. Bei uns hängen die Rechte an der Stelle, nicht an der Person – eine KI-Stelle sieht nur, was ihre Aufgabe verlangt.
• Auftragsverarbeitung (Art. 28 DSGVO). Wer für Sie Daten verarbeitet, braucht einen Vertrag mit Ihnen. Das gilt für uns als Betreiber Ihres Systems und für den Modellanbieter dahinter. Den Auftragsverarbeitungsvertrag bekommen Sie auf Anfrage vor dem Start.
• Übermittlung in Drittländer (Art. 44 ff. DSGVO). Geht eine Modellanfrage in die USA, muss die Übermittlung abgesichert sein. Das geschieht über Standardvertragsklauseln – oder Sie wählen die EU-Option.
• Keine Entscheidung allein durch die Maschine (Art. 22 DSGVO). Menschen haben das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich automatisiert fällt und sie erheblich betrifft. Unsere Freigabe-Regel geht weiter: Bei uns fällt gar keine Außenwirkung ohne einen Menschen.
• Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO). Jede KI-Stelle ist eine Verarbeitung, die in Ihr Verzeichnis gehört. Wir liefern die Angaben dazu; eintragen und bewerten müssen Sie als Verantwortlicher.

Ein Punkt, der in Gesprächen oft durcheinandergeht: Das Firmengehirn ist kein trainiertes Modell. Ihr Wissen wird nicht in ein Sprachmodell „eingebacken“, sondern liegt als lesbare Karten auf Ihrem Server. Die KI-Stellen lesen daraus, wenn sie es brauchen, und neues Wissen wird erst nach Ihrer Freigabe Teil davon. Das hat einen handfesten Vorteil: Was Sie löschen, ist gelöscht – es steckt nicht unsichtbar in einem Modell fest.

Privacy by Design im Alltag: woran Sie es erkennen

Ob ein System datenschutzfreundlich gebaut ist, sehen Sie nicht an der Startseite des Anbieters, sondern an seinen Gewohnheiten. Bei uns sind es diese:

• Rechte an der Stelle. Die Buchhaltungs-Assistenz sieht Belege, aber keine Personalakten. Die Vertriebsstelle sieht Anfragen, aber keine Gehaltsliste. Wie bei einem neuen Mitarbeiter auch: Zugang nach Aufgabe, nicht nach Bequemlichkeit.
• Vertraulichkeitsstufen im Firmengehirn. Jede Wissenskarte trägt eine Stufe. Was vertraulich ist, steht nur den Menschen und Stellen offen, die es brauchen. Wie das aufgebaut ist, beschreibt der Beitrag Was ein Firmengehirn ist.
• Ein privater Bereich, den auch Administratoren nicht sehen. Was eine Person mit ihrer eigenen Assistenz bespricht, bleibt bei ihr – auch vor uns als Betreiber.
• Zwei-Faktor-Anmeldung und protokollierte Zugriffe. Wer von uns für Wartung auf Ihr System zugreift, wird im Vertrag benannt, und der Zugriff ist nachvollziehbar.
• Gekennzeichnete KI-Absender. Jede Nachricht, die eine KI-Stelle verfasst, ist als solche erkennbar – im Absender und im System. Im Kundenkontakt lässt sich diese Kennzeichnung nicht abschalten.
• Prüfung vor jeder Änderung. Bevor eine neue Version unseres Arbeitsplatzes ausgerollt wird, laufen rund 65 Pflichttests. Seit Juli 2025 sind so rund 400 Versionen entstanden – keine davon ohne diese Prüfung.

Hinter jeder KI-Stelle steht außerdem ein Prüfer, der nicht dieselbe Stelle ist. Fehler werden so meist abgefangen, bevor ein Mensch sie überhaupt zu sehen bekommt. Wie dieser Ablauf funktioniert, steht im Beitrag Hinter jedem Macher ein Prüfer.

KI-Verordnung im Unternehmen: was auf Sie als Betreiber zukommt

Neben der DSGVO gibt es seit Kurzem ein zweites Regelwerk: die europäische KI-Verordnung. Sie unterscheidet zwischen Anbietern, die KI-Modelle entwickeln, und Betreibern, die KI in ihrem Betrieb einsetzen. Wir sind Betreiber – und ein Mittelständler, der KI-Stellen nutzt, ist es auch. Für Betreiber im Mittelstand sind vor allem drei Fragen wichtig.

Ist mein Einsatz ein Hochrisiko-Fall? Die Verordnung sieht strenge Pflichten für bestimmte Bereiche vor, etwa die Auswahl und Bewertung von Beschäftigten, die Prüfung der Kreditwürdigkeit oder kritische Infrastruktur. Verwaltung, Buchhaltung, Vertrieb und Kommunikation gehören nicht dazu. Deshalb ist bei uns die Stelle für Personal und Bewerbung bewusst so geschnitten, dass sie Bewerbungen aufnimmt und beauskunftet, aber keine Vorauswahl trifft und niemanden bewertet. Das bleibt Führungsaufgabe.

Was ist verboten? Einige Praktiken sind ganz untersagt, zum Beispiel die Erkennung von Emotionen am Arbeitsplatz. Für uns gilt dazu eine klare rote Linie: keine KI-Bewertung von Beschäftigten, keine verbotenen Praktiken. Wo ein gewünschter Einsatz in diese Nähe rückt, sagen wir das vor der Umsetzung – und setzen ihn im Zweifel nicht um.

Welche Pflichten habe ich ohnehin? Zwei betreffen jeden Betreiber. Die Menschen, die mit KI-Stellen arbeiten, brauchen ausreichende KI-Kompetenz (Art. 4 KI-Verordnung) – bei uns ist die Schulung der Führungskräfte Teil jeder Einführung, weil der ganze Aufbau ohne Führung nicht funktioniert. Und wer mit einer KI spricht oder schreibt, soll das erkennen können (Art. 50 KI-Verordnung). Die Kennzeichnung der KI-Absender erfüllt das, und sie schützt Sie zugleich vor dem Vorwurf der Irreführung nach dem Wettbewerbsrecht. Darüber hinaus empfehlen wir, die Belegschaft offen zu informieren, bevor die erste Stelle startet – Vertrauen im Team ist für den Erfolg wichtiger als jeder Paragraf.

Betreiberdokumentation: was steht und was wir gerade schließen

Hier trennt sich ehrliche Datenschutz-Kommunikation von Werbung. Die technischen Maßnahmen, die oben stehen, sind umgesetzt und laufen täglich. Die schriftliche Dokumentation, mit der sich das gegenüber Kunden, Datenschutzbeauftragten und Behörden belegen lässt, ist dagegen noch nicht vollständig. Zum Stand dieses Beitrags arbeiten wir an folgenden Punkten:

• ein vollständiges Verzeichnis der Verarbeitungstätigkeiten für den Produktbetrieb, das wir Kunden vorlegen können,
• eine Liste der technischen und organisatorischen Maßnahmen in prüffähiger Form,
• ein Löschkonzept und eine geordnete Ablage aller Auftragsverarbeitungsverträge,
• ein prüfbarer Nachweis über die Verschlüsselung ruhender Datenbanken,
• eine regelmäßige, protokollierte Wiederherstellungsprobe aus der Sicherung,
• eine schriftliche Betreiberdokumentation zur KI-Verordnung und eine anwaltliche Kurzprüfung des Ganzen.

Warum wir das öffentlich schreiben? Weil Sie es ohnehin fragen sollten – und weil ein Anbieter, der auf jede Frage eine fertige Antwort hat, die Fragen meist nicht ernst genommen hat. Ist einer dieser Punkte für Ihre Entscheidung wesentlich, bekommen Sie im Gespräch den tatsächlichen Stand. Ihr Datenschutzbeauftragter bekommt von uns die Unterlagen, die er für seine eigene Bewertung braucht – und keine fertige Bewertung, die er ungeprüft übernehmen soll.

Sechs Fragen, die Sie jedem KI-Anbieter stellen sollten

Ob Sie mit uns arbeiten oder mit jemand anderem: Diese Fragen trennen in einem Gespräch schnell die Substanz vom Prospekt.

1. Wo liegen unsere Daten, und wo liegen die Sicherungen? Lassen Sie sich Ort und Betreiber des Rechenzentrums nennen, nicht nur ein Land.
2. Wohin gehen die Modellanfragen, und mit welchem Vertrag? Gibt es einen Auftragsverarbeitungsvertrag, Standardvertragsklauseln, eine EU-Option?
3. Werden unsere Daten zum Training verwendet? Die Antwort sollte schriftlich stehen, nicht nur im Gespräch fallen.
4. Wer darf was sehen – Mensch wie KI? Fragen Sie nach Rechten, Vertraulichkeitsstufen und Protokollen.
5. Was wird ohne Freigabe eines Menschen aktiv? Die richtige Antwort ist ein Wort: nichts.
6. Welche Dokumentation fehlt noch? Wer hier „keine“ sagt, hat entweder ein sehr großes Rechtsteam – oder die Frage nicht verstanden.

Was Sie mitnehmen sollten

KI-Datenschutz im Mittelstand ist kein Siegel, das man kauft, sondern eine Bauweise, die man prüfen kann. Ihre Daten liegen auf einem eigenen Server in Deutschland, die Sicherungen in der EU. Die Modellanfragen der KI-Stellen sind vertraglich abgesichert, ohne Training auf Ihren Daten und mit einer EU-Option für alle, die sie brauchen. Entschieden wird an jedem Punkt von einem Menschen – das erfüllt den Geist der DSGVO und die Pflichten der KI-Verordnung zugleich. Und was an Dokumentation noch fehlt, steht offen auf dem Tisch, statt in einem Kleingedruckten zu verschwinden.

Wenn Sie wissen wollen, welche Daten in Ihrem Betrieb welche Vorkehrung brauchen, vereinbaren Sie ein Erstgespräch: 30 Minuten, kein Verkaufsgespräch, danach binnen 48 Stunden ab dem Gespräch, werktags, eine schriftliche Einschätzung. Bringen Sie gern Ihren Datenschutzbeauftragten mit – seine Fragen sind uns die liebsten.