Ein KI-Agent läuft im Pilotbetrieb seit acht Wochen, die Fehlerquote ist niedrig, das Team ist zufrieden, und irgendwann ist niemand mehr ganz sicher, ob der Agent noch ein Pilot ist oder schon produktiv arbeitet. Genau an dieser Stelle reißt in den meisten Aufbauten kleiner und mittlerer Unternehmen (KMU) die Übergabe.
Ein KI-Agent geht nicht aus dem Pilotbetrieb in die Produktion, weil er gut läuft. Er geht in die Produktion, weil eine schriftliche Freigabe vorliegt, die fünf Fragen mit Ja beantwortet. Wer diese fünf Fragen überspringt, hat keinen produktiven Agenten: Er hat einen ungeprüften Pilot in Produktivlast.
Das Wichtigste in Kürze
- Der Übergang Pilot → Produktion ist eine Freigabestufe: Sie gilt erst, wenn fünf Fragen schriftlich mit Ja beantwortet sind.
- Die fünf Freigabefragen: Aufgabenbrief tragfähig, Verantwortungsgrenze gehalten, Eskalation getestet, Review-Rhythmus etabliert, Rückfall-Pfad definiert.
- Der Engpass liegt empirisch im Übergang: Gartner erwartet, dass über 40 Prozent der agentischen KI-Projekte bis Ende 2027 abgebrochen werden (Gartner, Juni 2025).
- Frage 5, der Rückfall-Pfad, ist die am häufigsten übersprungene und im Versagensfall die teuerste. Sie gehört vor die Freigabe.
Warum so viele Agenten den Übergang nicht überstehen
Der Engpass liegt selten in der Pilotierung. Er liegt im Übergang in die Produktion und im Betrieb danach. Das Marktforschungshaus Gartner erwartet, dass über 40 Prozent der agentischen KI-Projekte bis Ende 2027 abgebrochen werden, wegen eskalierender Kosten, unklarem Geschäftswert und unzureichender Risiko-Kontrollen (Gartner, Juni 2025). Im breiteren Feld der generativen KI fällt das Bild ähnlich aus: Eine MIT-NANDA-Erhebung („The GenAI Divide", 2025) findet, dass zwar über 80 Prozent der Unternehmen Werkzeuge wie ChatGPT pilotieren, aber rund 95 Prozent der Unternehmen aus ihren GenAI-Initiativen keinen messbaren Ergebnisbeitrag erzielen.
Diese Zahlen messen nicht, ob ein Agent technisch funktioniert. Sie messen, ob der Übergang diszipliniert geführt wurde. Genau dort setzt eine schriftliche Freigabestufe an: Sie macht aus „läuft gut" eine prüfbare Entscheidung. Gartner nennt zudem ein zweites Risiko, das den Fit-Check vor jedem Piloten betrifft, sogenanntes „agent washing": Von Tausenden Anbietern, die agentische Lösungen bewerben, hält Gartner nur etwa 130 für agentisch. Wer einen umetikettierten Chatbot pilotiert, beantwortet Frage 1 nie tragfähig, weil der Agent gar nicht das tut, was der Aufgabenbrief unterstellt.
Pilot, Produktion — und die Stufe dazwischen
Pilot heißt: Betrieb mit Beobachtung. Eine zuständige Person prüft Output, sammelt Fehlerklassen und vergleicht das Ergebnis mit einem Referenz-Verfahren. Produktion heißt: Betrieb mit Verantwortung. Der Output wirkt direkt (kundenseitig, intern oder rechtlich), ohne dass jeder einzelne Vorgang nachgeprüft wird.
Zwischen Pilot und Produktion liegt eine Freigabestufe. Diese Stufe ist nicht „der Tag, an dem wir den Pilot beenden". Sie ist ein dokumentierter Übergang: eine schriftliche Freigabe, die festhält, dass die Bedingungen für den Produktivbetrieb erfüllt sind. Genau diese Stufe fehlt in den meisten Setups, und sie ist der Grund, warum Pilot-Agenten unbemerkt in die Produktion rutschen.
Diese Stufe fehlt in den meisten mittelständischen Betrieben. Die Bundesnetzagentur erhebt für Deutschland, dass rund 30 Prozent der Unternehmen KI aktuell nutzen und weitere 19 Prozent den Einsatz planen (Befragung Oktober bis Dezember 2024). Verbreitung ist also nicht mehr der Engpass: Der Engpass ist die Disziplin am Übergang, dort, wo aus einem beobachteten Pilot eine verantwortete Produktion wird.
Ein Pilot hat zwei Outputs: ein Urteil über die Qualität des Agenten und Vertrauen. Diese beiden Outputs werden oft verwechselt. Qualität ist messbar: Fehlerquote, Eskalations-Häufung, Korrektheitsprüfung. Vertrauen entsteht anders: durch wiederholte Erfahrung, durch überstandene Grenzfälle, durch den Moment, in dem die zuständige Person zum ersten Mal keinen Output gegengecheckt hat und es war richtig.
Wer einen Agenten in den Echtbetrieb schickt, bevor dieses Vertrauen aufgebaut ist, riskiert dasselbe wie eine Führungskraft, die einem neuen Mitarbeiter am ersten Tag die volle Verantwortung gibt und sich wundert, warum das nicht klappt. Der Pilot ist das strukturierte Onboarding des Agenten: ein technischer Test und zugleich der Raum, in dem Vertrauen entsteht oder ausbleibt.
Die fünf Freigabefragen
Eine Freigabe ist erst tragfähig, wenn alle fünf Fragen schriftlich mit Ja beantwortet sind. Vier Ja und ein Vielleicht reichen nicht: Die offene Frage trägt die ganze Last, sobald der Agent das erste Mal in einer realen Lage versagt.
| # | Frage | Output | Reife-Test |
|---|---|---|---|
1 | Ist der Aufgabenbrief tragfähig? | Eine Seite, geprüft an drei realen Beispielen aus dem Pilotbetrieb. | Eine andere Person erteilt den Auftrag ohne Rückfrage. |
2 | Hält die Verantwortungsgrenze in der Praxis? | Liste der Entscheidungen, die der Agent nicht trifft, geprüft an realen Grenzfällen aus dem Pilot. | Im Pilot ist kein Grenzfall passiert, in dem die Grenze unklar war. |
3 | Ist die Eskalation getestet? | Mindestens drei dokumentierte Eskalations-Ereignisse aus dem Pilot, mit Reaktionszeit und Ergebnis. | Die zuständige Person hat die Eskalation im Pilot bekommen, nicht nur theoretisch. |
4 | Ist der Review-Rhythmus etabliert? | Letztes Review hat stattgefunden, nächstes Review ist terminiert, Fehlerklassen sind dokumentiert. | Wer Review macht, weiß ohne Erinnerung, wann. |
5 | Ist der Rückfall-Pfad definiert? | Eine der drei Varianten dokumentiert: manuelle Übernahme, alter Prozess, hybride Zwischenlage. | Eine fremde Person kann den Pfad in 60 Sekunden aktivieren. |
Wer alle fünf Fragen mit Ja beantwortet, hat eine Freigabe. Wer eine oder mehrere mit Nein beantwortet, hat keine, egal, wie gut der Pilot läuft.
Die fünf Fragen an einem konkreten Beispiel
Ein KI-Agent klassifiziert eingehende E-Mails eines 40-Personen-Maschinenbauers und entwirft Antwortvorschläge für den Vertriebsinnendienst. Acht Wochen Pilot, niedrige Fehlerquote. So sieht die Freigabe-Prüfung aus:
- Aufgabenbrief. Eine Seite: „Der Agent ordnet eingehende E-Mails in vier Kategorien und entwirft für zwei davon einen Antwortvorschlag; er versendet nichts selbst." Geprüft an drei realen Pilotfällen, eine Vertriebskraft erteilt den Auftrag ohne Rückfrage. → Ja.
- Verantwortungsgrenze. Der Agent entscheidet nicht über Preisnachlässe, Liefertermine oder Reklamationsannahmen. Im Pilot kam ein Grenzfall vor (eine Reklamation mit Preisbezug), die Grenze hielt. → Ja.
- Eskalation getestet. Drei dokumentierte Eskalationen aus dem Pilot, die zuständige Innendienst-Leitung hat sie real bekommen, Reaktionszeit im Schnitt 40 Minuten. → Ja.
- Review-Rhythmus. Letztes Review vor zwei Wochen, nächstes terminiert, Fehlerklassen in einer Liste. → Ja.
- Rückfall-Pfad. Bei Ausfall übernimmt der Innendienst die manuelle Sichtung; das alte Postfach-Verfahren wurde nicht abgeschaltet. In 60 Sekunden aktivierbar. → Ja.
Fünf Ja: Der Agent darf in Produktion. Wäre Frage 3 nur „theoretisch" beantwortet (Eskalations-Kanal eingerichtet, aber im Pilot nie ausgelöst), wäre die Freigabe unvollständig: ein viertes Ja und ein offenes Risiko.
Eine Freigabe trägt erst, wenn alle fünf Fragen schriftlich mit Ja beantwortet sind: Aufgabenbrief, Verantwortungsgrenze, Eskalation, Review-Rhythmus, Rückfall-Pfad. Vier Ja und ein Vielleicht reichen nicht — die offene Frage trägt die ganze Last, sobald der Agent das erste Mal versagt.
Drei Störbilder ohne Freigabe
Störbild 1: Der stillschweigend produktive Pilot. Niemand hat den Übergang ausgesprochen, aber der Output landet seit Wochen ungeprüft beim Kunden. Wenn etwas schiefgeht, ist die Verantwortungsfrage erst nach dem Schaden klärbar.
Störbild 2: Freigabe ohne Rückfall-Pfad. Die fünf Fragen sind beantwortet, aber niemand hat geprüft, was passiert, wenn der Agent in einer realen Lage versagt. Im Versagensfall improvisiert das Team, und improvisieren unter Druck ist das, was die Freigabe vermeiden sollte.
Störbild 3: Freigabe ohne dokumentierten Eskalations-Test. Frage 3 wird auf dem Papier mit Ja beantwortet, weil die Eskalations-Mechanik „theoretisch funktioniert". In der Produktion stellt sich heraus, dass die zuständige Person den Eskalations-Kanal nicht regelmäßig liest oder dass die Schwellenwerte falsch eingestellt sind.
Störbild 4: Freigabe ohne aufgebautes Vertrauen. Alle fünf Fragen sind formal beantwortet, der Agent ist technisch freigegeben, aber die zuständige Person prüft jeden Output manuell nach und übernimmt Eskalationen reflexartig, ohne sie dem Agenten zu lassen. Der Agent ist in der Produktion, die Führungskraft führt weiter im Pilot-Modus. Das Vertrauen, das der Pilot hätte aufbauen sollen, ist nie entstanden: weil die Grenzfälle nicht überlebt, weil der Pilot zu kurz war oder weil die Erwartungshaltung nie explizit gesetzt wurde. Folge: Der Agent entlastet nicht, er verdoppelt den Prüfaufwand. Korrektur: Vertrauen ist ein eigenes Freigabekriterium. Die Frage „Habe ich diesen Agenten einmal laufen lassen, ohne den Output zu prüfen, und es war richtig?" muss vor der Freigabe mindestens einmal mit Ja beantwortet sein.
Vier Störbilder ohne Freigabe: der stillschweigend produktive Pilot, die Freigabe ohne Rückfall-Pfad, die Freigabe ohne dokumentierten Eskalations-Test und die Freigabe ohne aufgebautes Vertrauen. Alle vier zeigen sich erst im Versagensfall, nie im laufenden Betrieb.
Rückfall-Pfad — die unterschätzte Pflicht-Stelle
Frage 5 ist die, die im Mittelstand am häufigsten als „können wir später machen" markiert wird. Sie ist auch die, die im Versagensfall den Unterschied zwischen einem schlechten Tag und einer ernsten Lage macht.
Drei Varianten für einen Rückfall-Pfad:
- Manuelle Übernahme. Eine Person kann jede Aufgabe, die der Agent macht, im manuellen Modus zu Ende führen. Voraussetzung: Die Person kennt das Verfahren und hat Zugriff auf die nötigen Werkzeuge.
- Alter Prozess. Das Verfahren vor Einführung des Agenten ist dokumentiert und auf Knopfdruck reaktivierbar. Voraussetzung: Der alte Prozess wurde nicht abgeschaltet.
- Hybride Zwischenlage. Eine reduzierte Variante des Agenten arbeitet mit engerem Aufgabenbrief weiter, z. B. nur noch Lese-Aufgaben statt Schreib-Aufgaben. Voraussetzung: Die hybride Variante ist im Pilot mitgetestet.
Ein Rückfall-Pfad ist erst dokumentiert, wenn vier Punkte schriftlich festliegen:
- Auslöser: woran erkennen wir, dass umgeschaltet werden muss, etwa Fehlerschwelle, Eskalations-Häufung, Ausfall.
- Aktivierung: wer schaltet um, mit welchem Handgriff.
- Zuständigkeit im Rückfall: wer trägt die Aufgabe, solange der Agent aus ist.
- Rückweg: wie und wann der Agent wieder zugeschaltet wird.
Fehlt der Auslöser, merkt niemand rechtzeitig, dass der Pfad gebraucht wird. Fehlt der Rückweg, bleibt das Team dauerhaft im Notbetrieb.
Diese Logik ist kein Quandes-Sonderweg. Das NIST AI Risk Management Framework führt unter der Manage-Funktion ausdrücklich Mechanismen, „um KI-Systeme bei Bedarf außer Betrieb zu nehmen oder zu deaktivieren", und das generative Profil (NIST AI 600-1, Juli 2024) konkretisiert das für GenAI-Systeme. Der Rückfall-Pfad ist die KMU-taugliche Übersetzung dieser Anforderung.
Ein Rückfall-Pfad ist erst dokumentiert, wenn vier Punkte schriftlich feststehen: Auslöser, Aktivierung, Zuständigkeit im Rückfall und Rückweg. Fehlt der Auslöser, merkt niemand rechtzeitig, dass umgeschaltet werden muss.
Wo dieser Beitrag in der Beitragsreihe sitzt
Diese Freigabestufe sitzt zwischen dem ersten Aufgabenbrief und der laufenden Governance-Routine:
- Der Aufgabenbrief entsteht im Beitrag KI-Agenten erstellen. Ohne ihn ist Frage 1 nicht beantwortbar.
- Die Eskalationskante kommt aus Mensch-Agent-Übergabe. Ohne sie ist Frage 3 nicht testbar.
- Die Governance-Routine übernimmt nach der Freigabe: KI-Agenten-Governance im KMU. Sie bedient den Review-Rhythmus aus Frage 4 dauerhaft.
Was Quandes hier Produktion nennt, ordnet das NIST AI Risk Management Framework 1.0 (2023) der Manage-Funktion zu: Govern, Map und Measure müssen vor der Manage-Stufe sauber laufen. Das generative Profil des Frameworks (NIST AI 600-1, Juli 2024) überträgt diese vier Funktionen auf zwölf GenAI-spezifische Risikoklassen, darunter Konfabulation und Daten-Provenienz. Die fünf Freigabefragen prüfen diese Vorbedingungen in einer Form, die ein KMU ohne eigene Risiko-Abteilung anwenden kann: Frage 1 und 2 entsprechen Map, Frage 3 und 4 Measure, Frage 5 dem Außerbetriebnahme-Mechanismus aus Manage.
Brücke zum agentischen Arbeiten
Die fünf Freigabefragen sind der Moment, in dem die vier Bausteine agentischer Arbeit ihre Probe bestehen. Aufgabenbrief, Verantwortungsgrenze und Eskalationskante müssen bis hierher stehen; die Freigabe selbst ist die erste Anwendung des Review-Rhythmus, der Punkt, an dem aus einem geduldeten Pilot eine verantwortete Produktion wird. Woher diese vier Bausteine kommen, ordnet der Überblicksbeitrag Agentisches Arbeiten im KMU.
Erstgespräch
Freigabefragen im eigenen Unternehmen klären
Wenn ein KI-Agent in Ihrem Unternehmen den Pilotbetrieb verlässt (oder schon stillschweigend verlassen hat), prüft Quandes mit Ihnen die fünf Freigabefragen. Das Erstgespräch klärt, an welcher Stelle die Übergabe heute reißt und wie Sie sie schriftlich dokumentieren, bevor der erste reale Versagensfall sie sichtbar macht.
Erstgespräch vereinbarenHäufige Fragen zum Übergang vom Pilot in die Produktion
Wie lange dauert ein guter Pilot?
So lange, bis alle fünf Freigabefragen beantwortet sind. Ein typischer KMU-Pilot läuft sechs bis zwölf Wochen, aber die Dauer ist nicht das Reife-Signal: die fünf Fragen sind es.
Reicht ein erfolgreicher Pilotbetrieb für die Freigabe?
Nein. „Pilot läuft erfolgreich" beantwortet keine der fünf Fragen vollständig. Erfolgreicher Pilotbetrieb ist Voraussetzung, nicht Ersatz für die schriftliche Freigabe.
Wer unterschreibt die Freigabe?
Die Person mit der Verantwortungsgrenze aus Frage 2. In Ihrem Unternehmen ist das in der Regel die Geschäftsführung oder die fachliche Leitung, die im Versagensfall geradesteht. Diese benannte Rechenschaft ist kein bloßer Quandes-Standard: Der Management-Standard ISO/IEC 42001 (KI-Managementsysteme, 2023) verlangt klar zugewiesene Rollen und Verantwortlichkeiten, und die EU-KI-Verordnung (Verordnung (EU) 2024/1689) macht für Hochrisiko-KI eine menschliche Aufsicht durch benannte, befähigte Personen zur Pflicht. Eine namentliche Unterschrift erfüllt bei Ihnen die gleiche Funktion in handhabbarer Form.
Muss der Rückfall-Pfad regelmäßig geübt werden?
Mindestens einmal nach der Freigabe und danach in der Review-Routine (Frage 4) mindestens jährlich. Ungeübte Rückfall-Pfade sind im Versagensfall oft langsamer als improvisierte Lösungen.
Was ist, wenn der Agent nach Freigabe scheitert?
Rückfall-Pfad aktivieren, Versagensgrund dokumentieren, fünf Fragen erneut prüfen. Eine Freigabe ist nicht endgültig: Sie ist ein dokumentierter Stand mit Re-Check.
Weiterführend
Agentisches Arbeiten
Agentisches Arbeiten im KMU: Verantwortung und Geschwindigkeit ohne Kontrollverlust
Agentisches Arbeiten ist keine Tool-Frage, sondern eine Verantwortungsfrage. Wie KMU KI-Agenten beauftragen: mit Aufgabenbrief, Verantwortungsgrenze, Eskalationskante und Review-Rhythmus.
Agentisches Arbeiten
KI-Agenten erstellen: Aufgabenbeschreibung vor Tool-Wahl
Wie KMU KI-Agenten verantwortungsvoll erstellen: Aufgabenbrief mit sieben Feldern, Verantwortungsgrenzen, Human-in-the-loop und drei sinnvolle Startfälle. Bevor das Tool gewählt wird.
Agentisches Arbeiten
Mensch-Agent-Übergabe: Wer entscheidet wann?
Die wichtigste Designentscheidung agentischen Arbeitens betrifft die Stelle, an der ein Mensch die Verantwortung übernimmt. Vier Übergabe-Modi, Risiko-Matrix und Audit-Trail-Pflicht.
Agentisches Arbeiten
KI-Agenten-Governance im KMU: 90-Minuten-Audit-Routine alle vier Wochen
Governance für KI-Agenten im Mittelstand ohne Compliance-Programm: 90-Minuten-Audit-Routine alle vier Wochen entlang EU-AI-Act, NIST AI RMF und ISO/IEC 42001.