langgenius / langgenius/dify

Add LLM Cache statistics

Abierto
#35,653 5 comentarios 2 reacciones 0 asignados Ver en GitHub
Lenguaje dominante
TypeScript
Estrellas
156k
Forks
24.7k
Merge medio
21 h 41 min
PR fusionados (30 d)
600

Descripción

### Self Checks

- [x] I have read the [Contributing Guide](https://github.com/langgenius/dify/blob/main/CONTRIBUTING.md) and [Language Policy](https://github.com/langgenius/dify/issues/1542).
- [x] I have searched for existing issues [search for existing issues](https://github.com/langgenius/dify/issues), including closed ones.
- [x] I confirm that I am using English to submit this report, otherwise it will be closed.
- [x] Please do not modify this template :) and fill in all the required fields.

### 1. Is this request related to a challenge you're experiencing? Tell me about your story.

I want to know if I have use llm cache. It is import to optimize the cost saving and performance through adjust the structure of the prompt and tool use

### 2. Additional context or comments

_No response_

### 3. Can you help us with this feature?

- [ ] I am interested in contributing to this feature.

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

El issue no menciona archivos, pruebas ni puntos de entrada. Primero localiza la implementación de la caché de LLM y aclara qué estadísticas se requieren y dónde deberían consultarlas los usuarios. Debería considerarse completado cuando las métricas de uso de la caché solicitadas estén disponibles y su comportamiento esperado esté documentado.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Área
ai, observability, performance
Tipo de issue
Nueva funcionalidad
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Tranquilo
Claridad
Necesita aclaración
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.