KI-Agenten-Governance im KMU: 90-Minuten-Audit-Routine alle vier Wochen

Das Wichtigste in Kürze

• KI-Agenten-Governance in kleinen und mittleren Unternehmen (KMU) ist eine feste Routine. 90 Minuten alle vier Wochen, Geschäftsführung plus benannte Betreiberin, vier Prüfschritte, eine Entscheidungs-Ausgabe (weiterlaufen / verengen / abschalten).
• Drei externe Quellen geben den Rahmen vor. Der EU-AI-Act (Verordnung 2024/1689, Art. 14 + 26) verteilt Pflichten, das NIST AI Risk Management Framework 1.0 (Januar 2023) liefert den Steuerungs-Zyklus Govern/Map/Measure/Manage, ISO/IEC 42001:2023 ergänzt die System-Sicht.
• Vier Prüfschritte in 90 Minuten: Aufgabenklarheit (20 Min), Übergabe-Modus (25 Min), Eskalationen (25 Min), Entscheidung (20 Min).
• Governance ist Geschäftsführungs-Aufgabe, nicht IT-Aufgabe. Die IT ist eingeladen, aber nicht entscheidungsbefugt.
• Stand: 2026-05-28.

Der feste Termin alle vier Wochen ist der Unterschied zwischen einer Governance, die trägt, und einer, die auf dem Papier steht.

Warum eine Routine, kein Programm

Governance für KI-Agenten scheitert im Mittelstand an der Organisation. In wachsenden Betrieben fehlen Compliance-Abteilung, AI-Officer-Rolle und Stabsfunktion, die ein Programm aufsetzen und tragen könnten. Wer sich trotzdem ein Programm vornimmt, baut eine Struktur, die unter operativem Druck als erste wegfällt.

Eine Routine ist das Gegenteil. Sie hat einen Termin im Kalender, eine feste Teilnahmerunde, eine Prüfliste mit klaren Schritten und eine Entscheidungs-Ausgabe. Sie kommt mit zwei Personen aus und ist nach 90 Minuten beendet. Der Unterschied klingt klein, ist aber operativ entscheidend: ein Programm muss man aufsetzen, eine Routine muss man halten. Halten ist in Ihrem Unternehmen realistisch, Aufsetzen ist es selten.

Die Routine ersetzt nichts. Sie ist die organisatorische Verankerung, ohne die normative Pflichten leerlaufen. Wer den EU-AI-Act ernst nimmt, ohne eine Routine zu etablieren, hat einen unterschriebenen Compliance-Anspruch und keine prüfbare Praxis dahinter.

Die drei externen Quellen, die im Konfliktfall zählen

Drei Quellen geben den Rahmen für KI-Agenten-Governance vor, und sie ergänzen sich, statt sich zu überlappen. Die Routine in diesem Beitrag übersetzt alle drei in vier prüfbare Schritte, aber im Konfliktfall (Audit, Aufsichtsbehörde, Mandanten-Anfrage) zählen die Quellen, nicht die Routine.

EU-AI-Act, Verordnung (EU) 2024/1689: die Pflichten. Der EU-AI-Act verteilt Pflichten an Anbieter (Art. 16) und Betreiber (Art. 26). Für die meisten KMU ist die Betreiber-Rolle relevant: Sie nutzen ein zugekauftes oder gemietetes KI-System, statt es selbst zu entwickeln. Art. 26 verlangt unter anderem, dass Betreiber die Systeme entsprechend der Gebrauchsanweisung verwenden, die Eingabedaten relevant und ausreichend repräsentativ halten und die menschliche Aufsicht (Art. 14) gewährleisten. Hot-Fact: Die Geltungsphasen 2026/2027 laufen, der nächste Re-Check dieses Beitrags ist auf den 18. November 2026 gesetzt. Konsolidierte Fassung: EUR-Lex eli/reg/2024/1689/oj.

NIST AI Risk Management Framework 1.0: der Steuerungs-Zyklus. Das NIST AI 100-1 (Januar 2023) strukturiert KI-Risiko-Arbeit entlang vier Funktionen: Govern, Map, Measure, Manage. Govern ist die Querschnittsfunktion, die im KMU am häufigsten fehlt: regelmäßige Überprüfung, dokumentierte Verantwortlichkeit, Eskalations-Pfade. Die 90-Minuten-Routine in diesem Beitrag bildet im Kern Govern ab, mit Anschluss an Map (Aufgabenklarheit), Measure (Eskalations-Sichtung) und Manage (Entscheidungs-Ausgabe). Der Rahmen ist nicht bindend, aber als Referenz weit etabliert.

ISO/IEC 42001:2023: die System-Sicht. Die Norm, veröffentlicht am 18. Dezember 2023, ist die erste zertifizierbare KI-Managementsystem-Norm weltweit. Sie ergänzt die Pflichten- und Steuerungs-Logik um die System-Sicht: KI-Governance ist ein Managementsystem mit Politik, Rollen, Verfahren, Aufzeichnungen und Verbesserungs-Schleife. Zertifizierung ist optional. Die Norm-Logik trägt auch ohne Zertifikat, und für die meisten KMU ist das die richtige Stufe: Norm-Logik leben, Zertifizierung später entscheiden, wenn ein Kunde oder eine Ausschreibung sie verlangt.

Drei Quellen, drei Funktionen: Pflichten, Steuerung, System. Im Konfliktfall geht der EU-AI-Act vor, weil er bindend ist. NIST und ISO/IEC 42001 sind die zwei Stützen, die der Routine die Steuerungs-Logik und die System-Sicht geben.

Die 90-Minuten-Audit-Routine in vier Schritten

Die Routine läuft alle vier Wochen mit fester Tagesordnung. Zwei Personen sind notwendig: die Geschäftsführung als Betreiber im Sinne des EU-AI-Acts und die operative Betreiberin aus der Fachlinie. Die IT-Funktion ist eingeladen, aber nicht entscheidungsbefugt: die IT trägt Wissen bei, sie entscheidet nicht über die Aufgabe des Agenten.

Schritt 1: Aufgabenklarheit prüfen (20 Minuten)

Der Aufgabenbrief des Agenten wird gegen die letzten vier Wochen Praxis gelesen. Drei Fragen: Ist die Aufgabe noch dieselbe, die im Brief steht? Hat sich die Eskalationskante verschoben, also der Punkt, an dem der Agent eine menschliche Entscheidung verlangen muss? Sind neue Aufgaben dazugekommen, die nicht im Brief stehen und deshalb informell delegiert wurden?

Wenn eine der drei Fragen mit ja beantwortet wird, kommt der Aufgabenbrief zurück auf den Tisch. Eine schweigende Aufgaben-Erweiterung ist ein Governance-Risiko, weil die Eskalationskante und die Datengrundlage nicht mehr passen. Aufgabenklarheit ist die Grundlage für alles, was danach kommt (die NIST-Funktion Map).

Schritt 2: Übergabe-Modus prüfen (25 Minuten)

Der vereinbarte Mensch-Agent-Übergabe-Modus (Pre-Approval, Post-Review oder Autonom-mit-Veto) wird gegen drei zufällig gezogene Vorgänge der letzten vier Wochen geprüft. Stichprobe statt Vollerhebung: drei Vorgänge reichen, um Drift zu sehen.

Pro Vorgang: Hat der Agent den vereinbarten Modus eingehalten? Wo der Pre-Approval-Modus gesetzt ist, darf kein Vorgang ohne benannte Freigabe verlassen worden sein. Wo der Post-Review-Modus gilt, muss die Review-Spur sichtbar sein. Wenn die Stichprobe Abweichungen zeigt, geht der Modus oder die Aufgabe zurück in Schritt 1, nicht der Agent. Der Modus ist die Form, in der Art. 14 EU-AI-Act (menschliche Aufsicht) praktisch eingelöst wird.

Schritt 3: Eskalationen sichten (25 Minuten)

Welche Eskalationen hat der Agent in den letzten vier Wochen ausgelöst? Welche hätte er auslösen müssen, hat es aber nicht? Die zweite Frage ist die wichtigere. Ein Agent, der nie eskaliert, ist nicht automatisch ein guter Agent: er kann ein blinder Agent sein, dem die Eskalationskante fehlt oder dessen Schwellenwerte zu hoch liegen.

Hilfreich ist hier ein einfacher Vier-Felder-Audit-Trail-Auszug pro eskaliertem Vorgang:

• Auftrag: was sollte der Agent tun?
• Quellen: auf welchen Daten oder Vorgaben hat er gearbeitet?
• Abweichung: warum hat er eskaliert (oder warum hätte er sollen)?
• Freigabe: wer hat entschieden, was als nächstes passiert?

Diese vier Felder sind keine Audit-Trail-Norm; sie sind das Minimum, das eine Aufsichtsbehörde, eine Mandanten-Anfrage oder ein interner Konflikt belastbar trägt. Wer im Pilot bereits mit Vier-Felder-Trail gearbeitet hat (siehe C6), führt das Schema weiter.

Der Eskalationskanal (also das Protokoll, in dem der Agent festhält, wo er sich nicht sicher war) ist damit auch das eigentliche Alignment-Instrument. Die Eskalations-Spur zeigt, ob die Entscheidungslogik stimmt oder ob der Agent in Lücken läuft, die der Aufgabenbrief noch nicht schließt.

Schritt 4: Entscheidung (20 Minuten)

Am Ende der 90 Minuten steht eine Entscheidungs-Ausgabe in drei Möglichkeiten: weiterlaufen, verengen, abschalten. Weiterlaufen heißt: Aufgabe und Modus passen, Eskalationen liegen im erwartbaren Rahmen, nächster Termin in vier Wochen. Verengen heißt: ein Teilbereich der Aufgabe wird zurückgenommen, der Aufgabenbrief wird aktualisiert. Abschalten heißt: die Routine selbst hat eine Frage produziert, die in 90 Minuten nicht zu klären ist, der Agent pausiert bis zur Klärung.

Die Entscheidung wird in einer Zeile schriftlich begründet und im Audit-Trail abgelegt. Das ist der Verbindungspunkt zur NIST-Funktion Manage und zu ISO/IEC 42001 (Verbesserungs-Schleife): Entscheidungen ohne Begründung machen das Managementsystem zum Karteikartensystem.

Drei häufige Anti-Patterns

Drei Muster tauchen in der Beratungspraxis wiederkehrend auf. Sie sind operative Fehler, die jede Routine schwächen, die ohne Korrektur weiterläuft.

Audit-Trail nur in der Pilot-Phase. Der Vier-Felder-Trail wird während der Pilot-Phase diszipliniert geführt und nach der Produktiv-Setzung leise abgeschaltet, weil „der Agent ja jetzt läuft". Folge: nach drei Monaten Produktivbetrieb gibt es keine belastbare Spur mehr für die nächste Routine-Runde. Korrektur: der Audit-Trail ist Produktionsmerkmal, nicht Pilot-Merkmal. Wer ihn nach dem Pilot abschaltet, schaltet die Governance ab.

Routine ohne festen Termin. Die 90-Minuten-Routine ist formal vereinbart, aber im Kalender steht „bei Bedarf". Folge: unter operativem Druck rutscht der Termin, ab drei verschobenen Terminen ist die Routine still gestorben. Korrektur: vier Termine pro Jahr im Voraus blocken, mit derselben Disziplin wie eine Vorstandssitzung. Ein verschobener Termin wird sofort neu gesetzt, nicht „später".

Eskalationskante ohne Schwellenwerte. Der Agent „darf eskalieren", aber die Schwelle, ab der er eskaliert, ist nirgends schriftlich. Folge: Schritt 3 der Routine produziert in jeder Sitzung eine Diskussion, ob ein nicht-eskalierter Vorgang hätte eskaliert werden müssen. Korrektur: pro Aufgabe drei bis fünf konkrete Schwellenwerte schriftlich (Preis, Kundenklasse, Vorgangstyp, Unsicherheits-Indikator), im Aufgabenbrief verankert und in Schritt 1 jeder Routine geprüft.

Was die Routine nicht ersetzt

Die 90-Minuten-Routine ist eine starke organisatorische Form, aber sie hat scharfe Grenzen. Drei Dinge ersetzt sie nicht.

Sie ersetzt keine Compliance-Prüfung bei Hochrisiko-Anwendungen. Der EU-AI-Act (Anhang III) listet KI-Anwendungen, die als Hochrisiko gelten: unter anderem in Beschäftigung, Bildung, kritischer Infrastruktur, Strafverfolgung. Für die meisten KMU-Anwendungen (Vertriebs-Vorbereitung, Texterstellung, interne Recherche) greift der Hochrisiko-Status nicht, wohl aber die allgemeinen Betreiber-Pflichten. Wer eine Hochrisiko-Anwendung baut oder betreibt, braucht zusätzlich eine Konformitätsbewertung. Der Anhang III kann durch delegierte Rechtsakte erweitert werden. Re-Check der Hochrisiko-Frage gehört in dieselbe Vier-Wochen-Kadenz wie der EU-AI-Act-Hot-Fact-Termin.

Sie ersetzt keine Datenschutz-Folgenabschätzung. Wenn der Agent personenbezogene Daten verarbeitet, gilt die DSGVO unverändert. Eine DPIA ist eigene Pflicht und eigenes Verfahren; die Governance-Routine kann sie referenzieren, aber nicht in sich aufnehmen.

Sie ersetzt keine ISO/IEC-42001-Zertifizierung. Wer zertifiziert sein will, braucht ein vollständiges Managementsystem mit Politik, Audits, externer Prüfung. Die Routine bildet einen Kern dieses Systems ab, aber kein Zertifikat. Für Sie ist das in der Regel die richtige Stufe: die Routine leben, die Zertifizierung später entscheiden.

Das Wichtige an dieser Abgrenzung ist die Ehrlichkeit. Eine Governance-Routine, die so verkauft wird, als ob sie alles abdeckt, untergräbt das Vertrauen, das sie aufbauen soll.

Brücke zum agentischen Arbeiten

Die Routine ist nicht freistehend. Sie setzt voraus, dass die organisatorische Readiness steht (drei Dimensionen Mensch, Daten, Verantwortungs-System, verwandter Beitrag C3 Agentic Readiness), dass der Aufgabenbrief sauber geschrieben ist (C1), dass der Übergabe-Modus bewusst gewählt wurde (C4 Mensch-Agent-Übergabe) und dass die Pilot-Phase eine Freigabe-Schwelle hatte (C10 Pilot vor Produktion). Wer einen dieser Bausteine überspringt, baut eine Routine ohne Substanz.

Hinter der Routine steht außerdem eine Führungsfrage, die technisch nicht lösbar ist: Warum kommen die Äffchen trotzdem zurück? KI-Agenten und Monkey Management zeigt, warum fehlende Entscheidungskompetenz im Briefing Governance-Routinen regelmäßig untergräbt, und was das mit dem klassischen Delegationsproblem zu tun hat.

Der Case-Beitrag (C6 Erster KI-Agent in der Angebotserstellung) zeigt die vier Schritte am realen Fall: Pre-Approval-Modus, Vier-Felder-Trail, Pilot-Frist mit Rückfall-Pfaden, Bandbreiten-Messung. Der Halluzinations-Beitrag (C11) gibt für Schritt 3 die Output-Validierung als zusätzliche Sichtungs-Dimension.

Quellen und Konsistenz