SSD tree cache KV cache
Đang mở
- Ngôn ngữ chính
- C
- Star
- 22.3k
- Fork
- 2.1k
- Merge trung bình
- 1 ngày 3 giờ
- Pull request đã merge (30 ngày)
- 4
Mô tả
Since you’re saving the KV cache to an SSD, wouldn’t it be a good idea to create a database tree, perhaps using ‘Patricia trie’ or RocksDB?
After all, system prompts are constantly repeated, and saving most of the work you’ve done would save a huge amount of inference.
Hướng dẫn đóng góp
Đánh giá
Issue này chưa được đánh giá.