Can't install vllm, llama.cpp
- Ngôn ngữ chính
- Python
- Star
- 2.7k
- Fork
- 1k
- Merge trung bình
- 7 ngày 14 giờ
- Pull request đã merge (30 ngày)
- 2
Mô tả
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
### To Reproduce
### Expected behavior
### Additional context
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Issue đề cập đến việc cài đặt vLLM và llama.cpp bằng pip sau khi cập nhật lên CUDA 12, nhưng không nêu tên các tệp repository, bài kiểm thử hoặc các bước có thể tái hiện. Trước tiên, hãy kiểm tra các ảnh chụp màn hình lỗi được liên kết và môi trường CUDA của image, sau đó tái hiện cả hai lần cài đặt. Công việc được xem là hoàn tất khi xác định được image có hỗ trợ các package này hay không và ghi lại một kết quả đã được xác minh.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- python
- Lĩnh vực
- ai, devops
- Loại issue
- Lỗi
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 15/100