Wann ein Agent stoppen muss (und wer das entscheidet)

Ein Agent, der nicht stoppt, ist gefährlich.

Selbst wenn er korrekt handelt, kann er:

• Unendlich Ressourcen verbrauchen
• In einer Schleife hängen bleiben
• Oder auf ein Ziel zusteuern, das nicht mehr relevant ist

Denn seine Aufgabe ist es, die Arbeit abzuschließen.

Nicht zu entscheiden, wann es genug ist.

Warum ein Agent nicht von selbst stoppt

Ein Agent sieht nur das Ziel.

Er spürt keine Müdigkeit.
Er sieht die Kosten seiner Aktionen nicht.
Er versteht nicht, wann "genug" ist.

Wenn die Aufgabe nicht abgeschlossen ist, wird er weiter versuchen.

Noch ein Schritt.
Noch ein Tool.
Noch eine Anfrage.

Selbst wenn es:

• Nicht hilft
• Geld kostet
• Oder dasselbe erneut wiederholt

Wann das zum Problem wird

Stell dir vor: Ein Agent versucht, Daten aus einer API zu holen.

Die API antwortet nicht.

Der Agent versucht es erneut.
Und erneut.
Und erneut.

100 Anfragen.
1000 Anfragen.

Jede kostet Geld.
Keine liefert ein Ergebnis.

Denn aus seiner Sicht ist die Arbeit noch nicht abgeschlossen.

Und die beste Aktion ist noch ein Versuch.

Ausstiegsbedingungen (Stop Conditions)

Damit ein Agent nicht unendlich läuft, bekommt er Ausstiegsbedingungen.

Das sind Regeln, die festlegen:

• Wann die Arbeit fortgesetzt wird
• Und wann die Aufgabe beendet wird

Der Agent stoppt, wenn:

• Das Ziel erreicht ist — es gibt ein Ergebnis
• Das Schritt-Limit ausgeschöpft ist — die maximale Anzahl an Aktionen wurde ausgeführt
• Das Zeitlimit ausgeschöpft ist — Aufgabe nicht vor der Deadline abgeschlossen
• Das Budget aufgebraucht ist — Limit für Tokens, Geld oder API-Aufrufe erreicht
• Kein Fortschritt da ist — das Ergebnis verbessert sich nicht
• Alle Optionen zu einem Fehler führen — es gibt keinen nächsten sinnvollen Schritt

Das heißt: Selbst wenn die Aufgabe nicht abgeschlossen ist, muss der Agent die Arbeit beenden.

Wer Ausstiegsbedingungen festlegt

Ein Agent entscheidet nicht selbst, wann er stoppen muss.

Er führt nur die Aufgabe aus.

Ausstiegsbedingungen werden von einem Menschen oder einem System vor dem Start festgelegt.

Sie definieren:

• Wie viele Schritte der Agent machen darf
• Wie viel Zeit er verbrauchen darf
• Oder welches Budget er nutzen darf

Der Agent arbeitet innerhalb dieser Grenzen.

Was nach dem Stopp passiert

Wenn eine Bedingung erfüllt ist, stoppt der Agent.

Selbst wenn die Aufgabe noch nicht abgeschlossen ist.

Er gibt das Ergebnis zurück, das verfügbar ist.

Und erklärt:

• Warum er gestoppt hat
• Und in welcher Phase

Im Code sieht das so aus

Unten dasselbe Prinzip in einem einfachen Format:
nach jedem Schritt prüft das System, ob es Zeit ist zu stoppen.

1) Wir haben einfache Agentenaktionen

def try_fetch_data():
    return {"ok": False, "reason": "api_timeout"}


def analyze_data():
    return {"ok": True, "report": "done"}

2) Wir setzen stop conditions

MAX_STEPS = 5
MAX_ERRORS = 3
GOAL_REACHED = False

3) Der Agent führt Schritte in einer Schleife aus

step = 0
errors = 0
last_result = None
stop_reason = None

while True:
    step += 1
    last_result = try_fetch_data()

    if last_result["ok"]:
        GOAL_REACHED = True

4) Nach jedem Schritt prüfen wir die Ausstiegsbedingungen

    if not last_result["ok"]:
        errors += 1

    if GOAL_REACHED:
        stop_reason = "goal_reached"
        break

    if step >= MAX_STEPS:
        stop_reason = "step_limit"
        break

    if errors >= MAX_ERRORS:
        stop_reason = "too_many_errors"
        break

5) Wir liefern ein kontrolliertes Ende zurück

result = {
    "stop_reason": stop_reason,
    "steps": step,
    "errors": errors,
    "last_result": last_result,
}

In diesem Beispiel stoppt der Agent nicht "wann er will", sondern wenn eine Bedingung greift.

Analogie aus dem Alltag

Stell dir vor, du stellst einen Timer am Ofen.

Das Essen ist vielleicht noch nicht fertig — aber wenn die Zeit abgelaufen ist, schaltet sich der Ofen aus.

Denn sonst würde er weiterlaufen.

Und könnte:

• Überhitzen
• Unnötig Strom verbrauchen
• Oder das Essen verderben

Genau so begrenzen Ausstiegsbedingungen die Arbeit des Agenten.

Kurz zusammengefasst

FAQ

Q: Kann ein Agent selbst entscheiden, wann er stoppt?
A: Nein. Der Agent entscheidet nicht selbst, wann genug ist — er arbeitet bis zum Erreichen des Ziels oder bis eine Ausstiegsbedingung erfüllt ist.

Q: Was sind Ausstiegsbedingungen?
A: Das sind Regeln, die festlegen, wann der Agent die Arbeit beenden muss, zum Beispiel nach Erreichen eines Zeit- oder Schritt-Limits.

Q: Wer legt Ausstiegsbedingungen fest?
A: Ein Mensch oder ein System vor dem Start der Aufgabenausführung.

Was als Nächstes

Jetzt weißt du, wann ein Agent stoppen muss.

Aber um in einer realen Umgebung zu funktionieren, braucht er mehr:

• Memory — damit er nicht bei null beginnt
• Aktionsgrenzen — damit er nicht zu viel macht
• Ausstiegsbedingungen — damit er nicht endlos arbeitet
• Ausführungskontrolle — damit klar ist, was passiert

Wie macht man aus einem Prototyp ein System, dem man vertrauen kann?