Hinter jedem Macher ein Prüfer: KI-Kontrolle im Unternehmen mit einem klaren Freigabe-Prozess

Wer über KI-Kontrolle im Unternehmen nachdenkt, stellt sich meistens einen Notschalter vor: eine Person, die im Zweifel eingreift. Das ist zu wenig. Kontrolle, die erst dann greift, wenn schon etwas schiefgegangen ist, ist keine Kontrolle, sondern Schadensbegrenzung. Nützlich wird sie erst, wenn sie vor der Außenwirkung sitzt – nicht dahinter. Genau das ist der Unterschied zwischen einem Werkzeug, das einfach läuft, und einem Betrieb, in dem jede KI-Stelle einen zuständigen Menschen über sich hat.

Wir schreiben das nicht aus der Theorie. Seit 2009 sind wir als Agentur am Markt, und in den vergangenen vierzehn Monaten führen wir unseren eigenen Betrieb mit einer Belegschaft aus 43 KI-Stellen mit Namen und Zuständigkeit. In dieser Zeit haben wir jeden Fehler, den man mit KI machen kann, einmal selbst gemacht – und daraus einen Ablauf gebaut, der ihn beim nächsten Mal abfängt.

Macher und Prüfer: KI-Kontrolle im Unternehmen ist Teamarbeit

Der wichtigste Grundsatz in unserem Haus lautet: hinter jedem Macher ein Prüfer. Eine KI-Stelle, die etwas herstellt – einen Text, ein Angebot, eine Auswertung – hat immer eine zweite Stelle neben sich, deren einzige Aufgabe das Prüfen ist. Nicht das schnelle Drüberlesen, sondern das gezielte Suchen nach dem, was nicht stimmt.

Das klingt nach doppelter Arbeit und ist doch das Gegenteil. Wer schon einmal einen eigenen Text abgenommen hat, kennt den Effekt: Man liest, was man gemeint hat, nicht, was dasteht. Dieselbe Blindheit hat auch eine KI-Stelle für ihre eigene Arbeit. Ein frischer, unbeteiligter Blick findet den Fehler, den der Ersteller nicht mehr sieht. Deshalb ist der Prüfer bei uns keine Kontrollinstanz von oben, sondern ein Kollege auf Augenhöhe mit einem anderen Auftrag.

Damit dieses Prüfen überhaupt trägt, brauchen beide Stellen dieselbe Grundlage. Sie greifen auf das Firmengehirn zu – dort liegt das Wissen des Betriebs als geprüfte Karten, damit Macher und Prüfer nicht über verschiedene Fassungen der Wahrheit streiten. Wer diesen Unterschied zwischen einer KI-Stelle und einem bloßen Werkzeug ernst nimmt, versteht auch, warum ein Werkzeug allein nie geprüft wird: Es hat niemanden neben sich.

Warum ein einzelner Blick nicht ausreicht

Die naheliegende Lösung – „lass die KI ihre Arbeit einfach zweimal machen" – funktioniert nicht. Zwei Durchläufe derselben Stelle machen denselben Denkfehler zweimal. Kontrolle entsteht nur durch einen Wechsel der Perspektive: Der Prüfer fragt anders als der Macher. Er fragt nicht „Ist das schön geworden?", sondern „Stimmt die Zahl? Passt der Ton zum Kunden? Steht hier etwas, das rechtlich heikel ist? Ist eine Behauptung drin, die wir nicht belegen können?"

Bei uns ist diese Perspektive auf mehrere Prüf-Stellen verteilt, jede mit ihrem eigenen Blick. Eine achtet auf Zahlen und Ergebnis, eine auf Wirkung und Verständlichkeit, eine auf die rechtliche Seite, eine auf Barrierefreiheit und Geräte. Was für die Belegschaft gilt, gilt auch für die Systeme selbst: Bevor eine Änderung an unserem eigenen Arbeitsplatz in den Betrieb geht, durchläuft sie rund 65 Pflichttests. Dieselbe Sorgfalt, mit der wir Software freigeben, steckt in der Art, wie wir Arbeit freigeben.

Drei Korrekturschleifen: der Freigabe-Prozess Schritt für Schritt

Prüfen allein genügt nicht – es muss auch klar sein, was mit einem Befund passiert. Hier setzt unser Freigabe-Prozess an. Er hat eine feste Regel, die wir uns hart erarbeitet haben: Das Ziel ist eine Korrekturschleife, das harte Maximum sind drei. Danach entscheidet ein Mensch, statt die Maschine ein viertes Mal ins Rennen zu schicken.

Der Ablauf sieht so aus:

1. Der Macher liefert, der Prüfer sucht Fehler

Die herstellende Stelle übergibt ihr Ergebnis an den zuständigen Prüfer. Der schreibt keinen allgemeinen Satz wie „bitte überarbeiten", sondern nummerierte Befunde mit Fundstelle: Was stimmt nicht, wo steht es, was soll stattdessen dort stehen. Ein Befund ohne konkrete Stelle ist bei uns kein Befund.

2. Gezielt nachbessern – nur am Bemängelten

Die Korrektur betrifft ausschließlich die genannten Punkte. Was in Ordnung war, bleibt unangetastet. Das verhindert den teuersten Fehler beim Überarbeiten: dass beim Reparieren einer Stelle drei neue entstehen. Danach geht das Ergebnis zurück in die Prüfung.

3. Nach spätestens drei Runden entscheidet ein Mensch

Läuft ein Ergebnis nach drei Schleifen immer noch im Kreis, ist das kein Grund für eine vierte Runde, sondern ein Signal: Hier stimmt etwas Grundsätzliches nicht – der Auftrag war unklar, der Zuschnitt der Stelle passt nicht, oder die Aufgabe gehört von vornherein in menschliche Hände. Dann übernimmt ein Mensch und trifft die Entscheidung. Diese Grenze schützt vor dem Loch, in dem eine KI endlos an einer Sache herumbastelt, ohne je fertig zu werden.

So einfach dieser Dreischritt klingt – er ist der Kern dessen, was Kontrolle im Betrieb ausmacht. Nicht ein Mensch, der alles selbst macht, und nicht eine KI, die alles allein entscheidet, sondern ein festgelegter Weg dazwischen.

So lassen sich KI-Fehler vermeiden, bevor sie hinausgehen

Der eigentliche Gewinn dieses Ablaufs liegt darin, wo die Fehler auffallen: drinnen, nicht beim Kunden. KI-Fehler vermeiden heißt nicht, dass eine KI nie einen Fehler macht – das kann niemand versprechen. Es heißt, dass zwischen dem Fehler und der Außenwirkung genügend Stationen liegen, an denen er entdeckt wird. Ein falscher Preis in einem Angebot ist ein Ärgernis, solange er im Haus bleibt. Er wird zum Problem, sobald er beim Kunden liegt.

Deshalb ist die härteste Regel bei uns die einfachste: Nichts wird ohne die Freigabe eines Menschen aktiv. Kein Angebot geht raus, keine Buchung wird bestätigt, keine E-Mail wird versendet, bevor der zuständige Mensch sie gesehen und freigegeben hat. Die KI bereitet vor, der Mensch gibt frei – das ist keine Werbezeile, sondern der letzte Klick in jedem Vorgang. Und jede Stelle lässt sich zurückrollen, falls doch einmal etwas durchrutscht. Wie wir Freigaben, Datenhaltung und Rückrollbarkeit im Einzelnen absichern, steht auf der Seite Vertrauen.

Zur Einordnung, worauf es beim Prüfen ankommt:

Verlässliche Kontrolle	Scheinkontrolle
Ein Prüfer mit eigenem Blick sitzt vor der Außenwirkung.	Ein Notschalter greift erst, wenn schon etwas draußen ist.
Befunde sind nummeriert und haben eine Fundstelle.	„Bitte noch mal überarbeiten" ohne konkrete Stelle.
Nach drei Schleifen entscheidet ein Mensch.	Die KI bastelt endlos an derselben Sache weiter.
Nichts geht ohne menschliche Freigabe hinaus.	Das System versendet selbstständig, „weil es ja meistens stimmt".

Kontrolle ist keine Bremse, sondern Tempo mit Netz

Viele Unternehmer befürchten, dass so viel Prüfen alles langsam macht. In der Praxis ist es umgekehrt. Wer weiß, dass hinter jedem Macher ein Prüfer sitzt und am Ende ein Mensch freigibt, kann die KI viel weiter vorne einsetzen – ohne Angst, dass ihr ein Fehler unbemerkt entwischt. Das Netz erlaubt das Tempo. Ein Betrieb ohne dieses Netz muss dagegen jede KI-Ausgabe misstrauisch von Hand nacharbeiten und ist am Ende langsamer als vorher.

Genau das ist der Grund, warum unser Arbeitsplatz in vierzehn Monaten rund 400 Versionen und 236 Werkzeuge angesammelt hat: Nicht, weil wir gern basteln, sondern weil jeder gefundene Fehler zu einer neuen Regel oder einem neuen Prüfschritt geworden ist. Der Ablauf ist mit dem Betrieb gewachsen, nicht am Reißbrett entstanden.

Was Sie mitnehmen sollten

KI-Kontrolle im Unternehmen ist keine einzelne Person und kein Schalter, sondern ein Freigabe-Prozess: hinter jedem Macher ein Prüfer, gezieltes Nachbessern in höchstens drei Korrekturschleifen, danach die Entscheidung eines Menschen – und die feste Regel, dass nichts ohne menschliche Freigabe hinausgeht. So lassen sich die meisten KI-Fehler vermeiden, bevor sie überhaupt jemand von außen zu sehen bekommt.

Wenn Sie durchdenken wollen, wie dieser Ablauf in Ihrem Betrieb aussehen würde – an welcher Stelle ein Prüfer sinnvoll ist und wo die Freigabe bei Ihnen liegen sollte –, vereinbaren Sie ein Erstgespräch: 30 Minuten, kein Verkaufsgespräch, danach eine ehrliche schriftliche Einschätzung. Bringen Sie ruhig einen Vorgang mit, bei dem Sie heute abends noch selbst kontrollieren müssen – daran zeigt sich am schnellsten, wo ein Prüfer Sie entlasten könnte.