allenai / allenai/reward-bench
Add Unsloth Fast Inference option
Abierto
- Lenguaje dominante
- Python
- Estrellas
- 736
- Forks
- 99
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
See https://github.com/vllm-project/vllm/issues/8700#issuecomment-2964602903
Can be up to 2x+ speedup.
Example: https://gist.github.com/corbt/25eb21d47bbd2add810f1cf0edeea1b6
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Evaluación
Este issue todavía no se ha evaluado.