Add LLM Cache statistics
- Langage dominant
- TypeScript
- Étoiles
- 156k
- Forks
- 24.7k
- Merge moyen
- 21 h 41 min
- PR mergées (30 j)
- 600
Description
### Self Checks
- [x] I have read the [Contributing Guide](https://github.com/langgenius/dify/blob/main/CONTRIBUTING.md) and [Language Policy](https://github.com/langgenius/dify/issues/1542).
- [x] I have searched for existing issues [search for existing issues](https://github.com/langgenius/dify/issues), including closed ones.
- [x] I confirm that I am using English to submit this report, otherwise it will be closed.
- [x] Please do not modify this template :) and fill in all the required fields.
### 1. Is this request related to a challenge you're experiencing? Tell me about your story.
I want to know if I have use llm cache. It is import to optimize the cost saving and performance through adjust the structure of the prompt and tool use
### 2. Additional context or comments
_No response_
### 3. Can you help us with this feature?
- [ ] I am interested in contributing to this feature.
Guide de contribution
Ouvrir le guide de contribution
Piste de recherche
L’issue ne nomme aucun fichier, test ou point d’entrée. Commencez par localiser l’implémentation du cache LLM et précisez quelles statistiques sont requises et où les utilisateurs doivent les consulter. La tâche devrait être considérée comme terminée lorsque les métriques d’utilisation du cache demandées sont disponibles et que leur comportement attendu est documenté.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Domaine
- ai, observability, performance
- Type d'issue
- Fonctionnalité
- Difficulté
- 5/5
- Temps estimé
- Plus d'une semaine
- Activité
- Calme
- Clarté
- À clarifier
- Accessibilité débutants
- 35/100