Can't install vllm, llama.cpp
Aperta
bug
help wanted
- Lingua principale
- Python
- Stelle
- 2.7k
- Fork
- 1k
- Merge medio
- 7g 14h
- PR unite (30g)
- 2
Descrizione
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
### To Reproduce
### Expected behavior
### Additional context
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Valutazione
Questa issue non è ancora stata valutata.