K-Forge / K-Forge/Beetle

Modo caché

Open
#189 0 comments 0 reactions 1 assignee Claimed by @13rianVargas View on GitHub
fase-4
Dominant language
Shell
Stars
1
Forks
0
PR merge metrics
No merged PRs in 30d

Description

## Qué es esta tarea

Implementar un modo caché para desarrollo que reutiliza respuestas anteriores del LLM en lugar de hacer peticiones reales. Evita gastar tokens y tiempo de espera durante la iteración del código.

## Qué se debe hacer

- Añadir un flag de configuración `DOCTORJK_CACHE=true` (variable de entorno o TOML)
- Cuando está activo, guardar cada respuesta del LLM en disco (ej: hash de la evidencia → respuesta)
- En peticiones posteriores con la misma evidencia, devolver la respuesta cacheada
- Nunca activar en producción — el flag debe ser explícito y documentado como solo-desarrollo
- Registrar en log cuando se usa una respuesta cacheada vs. una real

## Por qué importa

Durante el desarrollo de las fases 5 (prompt) y 8 (pruebas), se ejecutan decenas de pruebas con la misma evidencia. Sin caché, cada iteración del prompt cuesta tokens y 10–15 segundos de espera. Con caché, el ciclo de desarrollo es instantáneo. gpt-oss-120b es gratis y consume pocas neuronas de Workers AI, pero sigue teniendo latencia — el caché acelera la iteración.

## Criterio de avance

Con `DOCTORJK_CACHE=true`, la segunda ejecución con la misma evidencia devuelve la respuesta instantáneamente sin hacer petición HTTP. Con el flag desactivado, siempre se hace la petición real.

Contributor guide

Open the contributing guide

Assessment

This issue has not been assessed yet.

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.