Can't install vllm, llama.cpp
Ouverte
bug
help wanted
- Langage dominant
- Python
- Étoiles
- 2.7k
- Forks
- 1k
- Merge moyen
- 7 j 14 h
- PR mergées (30 j)
- 2
Description
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
### To Reproduce
### Expected behavior
### Additional context
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Évaluation
Cette issue n'a pas encore été évaluée.