abetlen / abetlen/ggml-python

Prebuild WHL, Cuda 12.1 win10 python 3.10

Đang mở
#93 1 bình luận 0 reaction 0 người được giao Xem trên GitHub
Ngôn ngữ chính
Python
Star
152
Fork
16
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

Hello,

I've been trying to build llama-cpp-python latest version (0.3.7)for a week for Deepseek R1. But i failed. Whenever i did succesfully it errors(access violation 0x000000) when import and run.
Please anyone have prebuilt version of this spesifications, share me?
Thanks a lot!

Cuda 12.1
Python 3.10
Windows 10 x64

llama-cpp-python 0.3.7

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.