Governance für Multi-Agent-Systeme: Regeln für Koordination und Eskalation
So baut ihr Governance für mehrere Agenten: Verantwortungsgrenzen, Inter-Agent-Permissions, Shared Budgets, Approvals und Eskalationskontrolle.
⏱️ 1 Min. Lesezeit • Aktualisiert 24. März 2026Schwierigkeit: ★★★
Von Patterns genutzt
Verwandte Failures
Erforderliche Governance
- Tool‑Berechtigungen für KI‑Agenten (mit Code)
- Budgetkontrolle für KI-Agenten: Wie man Ausgaben in Runtime begrenzt
- Kill Switch für KI-Agenten: wie man Aktionen ohne Release im Notfall stoppt
- Human Approval für KI-Agenten: Wie man write-Aktionen sicher kontrolliert
- Step Limits für KI-Agenten: Wie man Schleifen vor einem Incident stoppt
In OnceOnly umsetzen
Budgets + permissions you can enforce at the boundary.
# onceonly guardrails (concept)
version: 1
budgets:
max_steps: 25
max_tool_calls: 12
max_seconds: 60
max_usd: 1.00
policy:
tool_allowlist:
- search.read
- http.get
writes:
require_approval: true
idempotency: true
controls:
kill_switch: { enabled: true }
Integriert: Production ControlOnceOnly
Guardrails für Tool-Calling-Agents
Shippe dieses Pattern mit Governance:
- Budgets (Steps / Spend Caps)
- Tool-Permissions (Allowlist / Blocklist)
- Kill switch & Incident Stop
- Idempotenz & Dedupe
- Audit logs & Nachvollziehbarkeit
Integrierter Hinweis: OnceOnly ist eine Control-Layer für Production-Agent-Systeme.
Autor
Nick — Engineer, der Infrastruktur für KI-Agenten in Produktion aufbaut.
Fokus: Agent-Patterns, Failure-Modes, Runtime-Steuerung und Systemzuverlässigkeit.
🔗 GitHub: https://github.com/mykolademyanov
Redaktioneller Hinweis
Diese Dokumentation ist KI-gestützt, mit menschlicher redaktioneller Verantwortung für Genauigkeit, Klarheit und Produktionsrelevanz.
Der Inhalt basiert auf realen Ausfällen, Post-Mortems und operativen Vorfällen in produktiv eingesetzten KI-Agenten-Systemen.