alipay / alipay/PainlessInferenceAcceleration
How the performance VS vLLM inference（vLLM vs Lookahead）
Ouverte
- Langage dominant
- Python
- Étoiles
- 370
- Forks
- 23
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
In the benchmark comparison results, could we add a comparison with VLLM to see the acceleration effects?
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Évaluation
Cette issue n'a pas encore été évaluée.