aws-samples / aws-samples/sample-autonomous-cloud-coding-agents

feat(agent): adaptive / complexity-aware model router

Abierto
#439 1 comentario 0 reacciones 0 asignados Ver en GitHub
agent-runtime cost-finops enhancement
Lenguaje dominante
TypeScript
Estrellas
143
Forks
46
Merge medio
3 d 10 h
PR fusionados (30 d)
24

Descripción

**Context:** ROADMAP.md → Adaptive model router + Complexity-aware model router (Cost governance)

---

## Component

Agent (Python runtime)

## Describe the feature

**Per-turn model selection** by task complexity: cheaper models for reads/simple edits, stronger models for complex reasoning—while honoring `max_budget_usd` and Cedar policy. Target ~30–40% cost reduction.

## Use case

Using Opus-class models for every turn is expensive. Many turns are file reads or trivial edits that a smaller model handles well.

## Proposed solution

1. Router heuristic or lightweight classifier (turn type, diff size, tool invoked).
2. Blueprint: allowed model set + routing policy.
3. Fallback to strong model on failure or low confidence.
4. Emit per-turn model choice in telemetry for cost attribution (#215).
5. A/B measure cost vs merge rate in evaluation pipeline.

## Other information

- Single issue covers both roadmap entries (compute + cost governance).
- Design context: `docs/design/COST_MODEL.md`, `agent/src/runner.py`.

- [ ] This might be a breaking change

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Comienza con docs/design/COST_MODEL.md y luego inspecciona agent/src/runner.py para entender el flujo actual de modelos por turno. Define cómo encajan la complejidad, los modelos permitidos, max_budget_usd, Cedar policy, el comportamiento de fallback, la telemetría y la evaluación. Se considera terminado cuando se mide el impacto del router en el coste y la merge-rate sin infringir la policy ni el presupuesto.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python
Área
ai
Tipo de issue
Nueva funcionalidad
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Tranquilo
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.