abetlen / abetlen/llama-cpp-python
arm64 builds for CUDA
Aberta
enhancement
- Linguagem predominante
- Python
- Estrelas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PRs
- Métricas de PR pendentes
Descrição
Many are using this library on Nvidia Jetson/Orin devices, but there are no prebuilt wheels available for CUDA arm architectures.
Could support for automated builds of these wheels be added? Thanks!
Guia de contribuição
Avaliação
Esta issue ainda não foi avaliada.