Un agente que no se detiene es peligroso.
Incluso si actúa correctamente, puede:
- Gastar recursos sin fin
- Quedarse en un bucle
- O avanzar hacia un objetivo que ya no es relevante
Porque su tarea es completar el trabajo.
No decidir cuándo es suficiente.
Por qué un agente no se detiene solo
Un agente ve solo el objetivo.
No siente cansancio.
No ve el costo de sus acciones.
No entiende cuándo "es suficiente".
Si la tarea no está terminada, seguirá intentando.
Un paso más.
Una herramienta más.
Una solicitud más.
Incluso si:
- No ayuda
- Cuesta dinero
- O repite lo mismo otra vez
Cuándo esto se vuelve un problema
Imagina: un agente intenta obtener datos de una API.
La API no responde.
El agente lo intenta otra vez.
Y otra vez.
Y otra vez.
100 solicitudes.
1000 solicitudes.
Cada una cuesta dinero.
Ninguna da resultado.
Porque desde su punto de vista, el trabajo aún no está terminado.
Y la mejor acción es intentar una vez más.
Condiciones de detención (Stop Conditions)
| Condición | Qué limita |
|---|---|
| Objetivo alcanzado | Tarea completada |
| Límite de pasos | Cantidad de acciones |
| Límite de tiempo | Duración de ejecución |
| Presupuesto | Tokens o dinero |
| Sin progreso | Calidad del resultado |
Para que el agente no trabaje sin fin, se le definen condiciones de detención.
Son reglas que definen:
- Cuándo continuar trabajando
- Y cuándo finalizar la tarea
El agente se detiene si:
- Se alcanza el objetivo — hay resultado
- Se agota el límite de pasos — se hizo la cantidad máxima de acciones
- Se agota el límite de tiempo — la tarea no se completa antes del límite
- Se gasta el presupuesto — se alcanza el límite de tokens, dinero o llamadas API
- No hay progreso — el resultado no mejora
- Todas las opciones llevan a error — no hay por dónde seguir
Es decir, aunque la tarea no esté completa, el agente debe detener el trabajo.
Quién define las condiciones de detención
El agente no decide por sí mismo cuándo detenerse.
Solo ejecuta la tarea.
Las condiciones de detención las define una persona o un sistema antes de empezar.
Definen:
- Cuántos pasos puede dar el agente
- Cuánto tiempo puede gastar
- O qué presupuesto puede usar
El agente trabaja dentro de estos límites.
Qué pasa después de detenerse
Cuando se cumple una de las condiciones, el agente detiene el trabajo.
Aunque la tarea todavía no esté completa.
Devuelve el resultado que exista.
Y explica:
- Por qué se detuvo
- Y en qué etapa
En código se ve así
Abajo está el mismo principio en formato simple:
después de cada paso, el sistema comprueba si ya es momento de detenerse.
1) Tenemos acciones simples del agente
def try_fetch_data():
return {"ok": False, "reason": "api_timeout"}
def analyze_data():
return {"ok": True, "report": "done"}
2) Definimos stop conditions
MAX_STEPS = 5
MAX_ERRORS = 3
GOAL_REACHED = False
3) El agente ejecuta pasos en bucle
step = 0
errors = 0
last_result = None
stop_reason = None
while True:
step += 1
last_result = try_fetch_data()
if last_result["ok"]:
GOAL_REACHED = True
4) Después de cada paso comprobamos condiciones de detención
if not last_result["ok"]:
errors += 1
if GOAL_REACHED:
stop_reason = "goal_reached"
break
if step >= MAX_STEPS:
stop_reason = "step_limit"
break
if errors >= MAX_ERRORS:
stop_reason = "too_many_errors"
break
5) Devolvemos un final controlado
result = {
"stop_reason": stop_reason,
"steps": step,
"errors": errors,
"last_result": last_result,
}
En este ejemplo, el agente no se detiene "cuando quiere", sino cuando se cumple una condición.
Ejemplo completo de implementación con LLM conectada
Analogía de la vida real
Imagina que pones un temporizador en el horno.
El plato puede no estar listo todavía, pero cuando se acaba el tiempo, el horno se apaga.
Porque si no, seguiría funcionando.
Y podría:
- Sobrecalentarse
- Gastar electricidad extra
- O arruinar la comida
Así es exactamente como las condiciones de detención limitan el trabajo del agente.
En resumen
El agente intenta completar la tarea.
No sabe cuándo es suficiente.
Por eso se le definen condiciones de detención:
- Límite de pasos
- Límite de tiempo
- Presupuesto
- O falta de progreso
Cuando se cumple una condición, el agente detiene el trabajo.
FAQ
Q: ¿Puede un agente decidir por sí mismo cuándo detenerse?
A: No. El agente no define por sí mismo cuándo es suficiente: trabaja hasta alcanzar el objetivo o hasta que se cumpla una condición de detención.
Q: ¿Qué son las condiciones de detención?
A: Son reglas que definen cuándo el agente debe detener el trabajo, por ejemplo al alcanzar un límite de tiempo o de pasos.
Q: ¿Quién define las condiciones de detención?
A: Una persona o un sistema antes de empezar la ejecución de la tarea.
Qué sigue
Ahora ya sabes cuándo un agente debe detenerse.
Pero para trabajar en un entorno real, necesita más:
- Memoria — para no empezar desde cero
- Límites de acciones — para no hacer de más
- Condiciones de detención — para no trabajar sin fin
- Control de ejecución — para saber qué está pasando
¿Cómo convertir un prototipo en un sistema en el que se pueda confiar?