langgenius / langgenius/dify

Add LLM Cache statistics

Ouverte
#35,653 5 commentaires 2 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
TypeScript
Étoiles
156k
Forks
24.7k
Merge moyen
21 h 41 min
PR mergées (30 j)
600

Description

### Self Checks

- [x] I have read the [Contributing Guide](https://github.com/langgenius/dify/blob/main/CONTRIBUTING.md) and [Language Policy](https://github.com/langgenius/dify/issues/1542).
- [x] I have searched for existing issues [search for existing issues](https://github.com/langgenius/dify/issues), including closed ones.
- [x] I confirm that I am using English to submit this report, otherwise it will be closed.
- [x] Please do not modify this template :) and fill in all the required fields.

### 1. Is this request related to a challenge you're experiencing? Tell me about your story.

I want to know if I have use llm cache. It is import to optimize the cost saving and performance through adjust the structure of the prompt and tool use

### 2. Additional context or comments

_No response_

### 3. Can you help us with this feature?

- [ ] I am interested in contributing to this feature.

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

L’issue ne nomme aucun fichier, test ou point d’entrée. Commencez par localiser l’implémentation du cache LLM et précisez quelles statistiques sont requises et où les utilisateurs doivent les consulter. La tâche devrait être considérée comme terminée lorsque les métriques d’utilisation du cache demandées sont disponibles et que leur comportement attendu est documenté.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Domaine
ai, observability, performance
Type d'issue
Fonctionnalité
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
Calme
Clarté
À clarifier
Accessibilité débutants
35/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.