Can't install vllm, llama.cpp
Offen
bug
help wanted
- Vorherrschende Sprache
- Python
- Sterne
- 2.7k
- Forks
- 1k
- Ø Merge
- 7 T. 14 Std.
- Gemergte PRs (30 T.)
- 2
Beschreibung
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
### To Reproduce
### Expected behavior
### Additional context
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Bewertung
Dieses Issue wurde noch nicht bewertet.