alipay / alipay/PainlessInferenceAcceleration
How the performance VS vLLM inference（vLLM vs Lookahead）
Đang mở
- Ngôn ngữ chính
- Python
- Star
- 370
- Fork
- 23
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
In the benchmark comparison results, could we add a comparison with VLLM to see the acceleration effects?
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Đánh giá
Issue này chưa được đánh giá.