Can't install vllm, llama.cpp
未關閉
bug
help wanted
- 主要語言
- Python
- 星號
- 2.7k
- 分支
- 1k
- 平均合併
- 7 天 14 小時
- 30 天內合併 PR
- 2
描述
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
### To Reproduce
### Expected behavior
### Additional context
貢獻指南
這個儲存庫沒有索引到貢獻指南
研究方向
該 issue 提到了 CUDA 12 更新後透過 pip 安裝 vLLM 和 llama.cpp，但沒有列出任何 repository 檔案、測試或可重現步驟。首先檢查連結的錯誤截圖和 image 的 CUDA 環境，然後重現這兩次安裝。確定 image 是否支援這些套件，並記錄經過驗證的結果，即表示完成。
由索引模型根據 Issue 內容生成。
評估
- 技術堆疊
- python
- 領域
- ai, devops
- Issue 類型
- 缺陷
- 難度
- 4/5
- 預估耗時
- 3-5 天
- 活躍度
- 停滯
- 描述清晰度
- 需要釐清
- 新手友好度
- 15/100