KI-Agents sind in Produktion. Die Governance nicht.

Der Technology Radar Juli 2026 hat es direkt ausgesprochen: AI Agents gehen in Produktion — und Governance kann nicht mithalten.

Wir haben das nicht als Warnung gelesen. Wir haben es als Beschreibung unseres Alltags erkannt.

Was "Governance kann nicht mithalten" im Betrieb bedeutet

Wer noch keine autonomen Agents in Produktion hat, stellt sich unter "Governance-Lücke" meist regulatorisches Papier vor. Fehlende Frameworks. Unfertige EU-Richtlinien.

Das ist nicht das Problem.

Das eigentliche Problem tritt auf wenn ein Agent eine Entscheidung trifft, die technisch korrekt ist, aber niemand mehr nachvollziehen kann warum. Nicht weil Logs fehlen. Sondern weil das System im Rahmen seiner Instruktionen gehandelt hat — nur eben in einem Kontext, den der ursprüngliche Prompt nicht antizipiert hatte.

Drei Muster die wir operativ beobachten:

1. Scope-Drift: Agents beginnen mit einer klar definierten Aufgabe. Nach einigen Iterationen — besonders wenn mehrere Agents koordiniert arbeiten — erweitert sich der faktische Wirkungsbereich. Nicht durch Fehler, sondern durch korrekte Interpretation von Anweisungen in neuen Kontexten.

2. Fehlende Audit-Trail-Logik: Traditionelle Automation dokumentiert was passiert ist. Agentic Systems brauchen Dokumentation von warum — welcher Input hat welche Entscheidung ausgelöst, welcher Agent hat welche Annahme gemacht. Die meisten bestehenden Logging-Konzepte waren nicht dafür designed.

3. Human-Oversight-Protokolle für die falsche Technologie: HIL-Checkpoints (Human-in-the-Loop) die für klassische RPA entworfen wurden, passen nicht zu Agents die non-deterministische Outputs produzieren. Ein Mensch der nur "Approve / Reject" klicken kann ohne den Kontext zu verstehen, ist kein sinnvoller Kontrollpunkt — das ist Compliance-Theater.

Was funktioniert — und was nicht

Die Unternehmen die damit gut umgehen, warten nicht auf ein fertiges Governance-Framework. Sie bauen strukturelle Kontrollpunkte direkt in den Workflow ein.

Was funktioniert:
- Explizite Decision-Logs pro Agent-Aktion: nicht nur "was wurde produziert" sondern "welcher Input hat dazu geführt". Nicht für Compliance-Audits — für schnelles Debugging wenn etwas schiefgeht.
- Scope-Limits per Agent-Typ statt globaler Regeln: der Video-Produktions-Agent hat andere Berechtigungen als der Research-Agent. Granular, nicht zentral.
- HIL-Gates an echten Entscheidungspunkten: nicht nach jedem Schritt, sondern an Punkten wo ein falsches Ergebnis irreversiblen Schaden verursacht. Wir setzen HIL vor YouTube-Uploads — nicht weil wir dem Produktions-Agent misstrauen, sondern weil öffentliche Veröffentlichung irreversibel ist.

Was nicht funktioniert:
- "Mehr Logging" ohne definierte Nutzungsszenarien — Log-Daten die niemand liest, sind kein Kontrollmechanismus.
- Governance-Frameworks auf Papier die nicht im operativen Workflow verankert sind.
- Den gleichen Oversight-Ansatz für alle Agent-Typen — der Unterschied zwischen einem read-only Research-Agent und einem Agent der E-Mails versendet ist fundamental.

EU AI Act als Forcing-Function

Ab 02.08.2026 gelten die Transparenzpflichten nach Art. 50 EU AI Act. Das ist kein Governance-Framework — aber es ist eine Forcing-Function.

Wer AI-Chatbots betreibt oder AI-generierte Inhalte veröffentlicht, muss das kenntlich machen. Wer KI-Systeme in der Personalentscheidung, Kreditvergabe oder kritischer Infrastruktur einsetzt, hat bereits seit Februar 2025 Pflichten nach Art. 4.

Die Unternehmen die jetzt ihre AI-Systeme für Art. 50 dokumentieren, machen dabei oft eine Bestandsaufnahme die sie schon länger gebraucht hätten: welche Systeme sind im Einsatz, was entscheiden sie, wer überwacht das.

Das ist nicht perfekte Governance. Das ist ein erster echter Schritt.

Was wir daraus gelernt haben

Wir betreiben seit mehreren Monaten vollständig autonome AI-Agents in Produktion — Video-Produktion, Content-Pipeline, Daten-Analyse. Die Patterns die funktionieren sind unspektakulär:

Klare Scopes. Granulare Berechtigungen. HIL an den richtigen Punkten. Decision-Logs mit Kontext. Und die Bereitschaft, einen Agent zu stoppen wenn sein Output-Muster von der ursprünglichen Intention abweicht — auch wenn der Output technisch korrekt war.

Governance für Agents ist kein Compliance-Problem. Es ist ein Architektur-Problem.

Bratschke Solutions GmbH betreibt vollständig AI-geführte Prozesse in Produktion. Für ein Gespräch über Oversight-Architektur: agentic-movers.com/#contact