abetlen / abetlen/llama-cpp-python
arm64 builds for CUDA
Đang mở
enhancement
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.4k
- Chỉ số merge pull request
- Chỉ số pull request đang chờ
Mô tả
Many are using this library on Nvidia Jetson/Orin devices, but there are no prebuilt wheels available for CUDA arm architectures.
Could support for automated builds of these wheels be added? Thanks!
Hướng dẫn đóng góp
Đánh giá
Issue này chưa được đánh giá.