abetlen / abetlen/llama-cpp-python
arm64 builds for CUDA
Offen
enhancement
- Vorherrschende Sprache
- Python
- Sterne
- 10.6k
- Forks
- 1.4k
- PR-Merge-Kennzahlen
- PR-Kennzahlen ausstehend
Beschreibung
Many are using this library on Nvidia Jetson/Orin devices, but there are no prebuilt wheels available for CUDA arm architectures.
Could support for automated builds of these wheels be added? Thanks!
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.