abetlen / abetlen/llama-cpp-python
Prebuild WHL, Cuda 12.1 win10 python 3.10
Đang mở
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.4k
- Chỉ số merge pull request
- Chỉ số pull request đang chờ
Mô tả
Hello,
I've been trying to build llama-cpp-python latest version (0.3.7)for a week for Deepseek R1. But i failed. Whenever i did succesfully it errors(access violation 0x000000) when import and run.
Please anyone have prebuilt version of this spesifications, share me?
Thanks a lot!
Cuda 12.1
Python 3.10
Windows 10 x64
llama-cpp-python 0.3.7
@abetlen
Hướng dẫn đóng góp
Đánh giá
Issue này chưa được đánh giá.