Saltar a contenido

Context budget (por routine)

Cada routine de trading tiene un presupuesto finito de tokens. Exceder deteriora calidad ("context rot") antes de llegar al límite duro del modelo. El video sugiere tratar cada disparo como ~200K tokens útiles, aunque el modelo técnicamente soporte 1M.

Por qué no usar los 1M completos

Nate Herk explícitamente: "I don't really like to think of it like I have a million tokens to play with because context rot". A mayor context, peor razonamiento y más ruido. Estudios (citation gap — buscar papers de "lost in the middle", Liu et al. 2023) muestran degradación más allá de cierta densidad.

Distribución típica (orden de magnitud)

  • System / CLAUDE.md: 5–10K tokens.
  • Strategy + trade log + research log: 20–40K.
  • API docs / tool specs: 5–10K.
  • Research pulls de la routine actual: 20–50K.
  • Output / razonamiento: 10–20K.
  • Total: 60–130K fácilmente; 200K si hay mucha research.

Técnicas de mitigación

  • Truncar logs antiguos: el agente rolla trade_log.md por mes; sólo carga el mes actual.
  • Sub-agentes: delegar research a un sub-agente con su propio contexto → devuelve un resumen corto.
  • Skills/commands explícitos: invocar skills reduce prompt bloat vs prompts monolíticos.
  • Memoria destilada: en lugar de cargar todo el log, cargar un lessons.md destilado.
  • Sliding window de news: solo últimas 48h de noticias.

Costo

Cada routine es una session que cuenta contra el plan del usuario (Max, Team, etc.) o se factura por tokens si es API. Con 4 routines/día × 5 días × 200K tokens → ~4M tokens/semana sólo de trading. Con el patrón de routines en suscripción Max, entra dentro del plan si no hay explosión.

Relaciones