Add LLM Cache statistics
- 主要言語
- TypeScript
- スター
- 156k
- フォーク
- 24.7k
- 平均マージ
- 21時間 41分
- マージ済み PR(30日)
- 600
説明
### Self Checks
- [x] I have read the [Contributing Guide](https://github.com/langgenius/dify/blob/main/CONTRIBUTING.md) and [Language Policy](https://github.com/langgenius/dify/issues/1542).
- [x] I have searched for existing issues [search for existing issues](https://github.com/langgenius/dify/issues), including closed ones.
- [x] I confirm that I am using English to submit this report, otherwise it will be closed.
- [x] Please do not modify this template :) and fill in all the required fields.
### 1. Is this request related to a challenge you're experiencing? Tell me about your story.
I want to know if I have use llm cache. It is import to optimize the cost saving and performance through adjust the structure of the prompt and tool use
### 2. Additional context or comments
_No response_
### 3. Can you help us with this feature?
- [ ] I am interested in contributing to this feature.
コントリビューションガイド
調査の方向性
この issue では、ファイル、テスト、エントリーポイントが指定されていません。まず LLM キャッシュの実装箇所を特定し、どの統計情報が必要なのか、またユーザーがそれらをどこで確認すべきなのかを明確にしてください。要求されたキャッシュ使用メトリクスが利用可能になり、その期待される動作が文書化されていれば、完了とみなします。
索引モデルが issue の本文から書いたものです。
評価
- 領域
- ai, observability, performance
- issue の種類
- 機能追加
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 活発さ
- 静か
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 35/100