langgenius / langgenius/dify

Add LLM Cache statistics

オープン
#35,653 コメント 5 件 リアクション 2 件 担当者 0 名 GitHub で見る
主要言語
TypeScript
スター
156k
フォーク
24.7k
平均マージ
21時間 41分
マージ済み PR(30日)
600

説明

### Self Checks

- [x] I have read the [Contributing Guide](https://github.com/langgenius/dify/blob/main/CONTRIBUTING.md) and [Language Policy](https://github.com/langgenius/dify/issues/1542).
- [x] I have searched for existing issues [search for existing issues](https://github.com/langgenius/dify/issues), including closed ones.
- [x] I confirm that I am using English to submit this report, otherwise it will be closed.
- [x] Please do not modify this template :) and fill in all the required fields.

### 1. Is this request related to a challenge you're experiencing? Tell me about your story.

I want to know if I have use llm cache. It is import to optimize the cost saving and performance through adjust the structure of the prompt and tool use

### 2. Additional context or comments

_No response_

### 3. Can you help us with this feature?

- [ ] I am interested in contributing to this feature.

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

この issue では、ファイル、テスト、エントリーポイントが指定されていません。まず LLM キャッシュの実装箇所を特定し、どの統計情報が必要なのか、またユーザーがそれらをどこで確認すべきなのかを明確にしてください。要求されたキャッシュ使用メトリクスが利用可能になり、その期待される動作が文書化されていれば、完了とみなします。

索引モデルが issue の本文から書いたものです。

評価

領域
ai, observability, performance
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
静か
明瞭さ
説明が足りない
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。