abetlen / abetlen/llama-cpp-python
Support sm100 and sm120 in CUDA pre‑built wheels
Offen
- Vorherrschende Sprache
- Python
- Sterne
- 10.6k
- Forks
- 1.4k
- PR-Merge-Kennzahlen
- PR-Kennzahlen ausstehend
Beschreibung
```
CUDA : ARCHS = 750,800,860,890,900
```
The current pre‑built CUDA wheels only support up to sm90. Please extend the build to include sm100 and sm120 so users with newer GPUs (B200 and RTX 50 series) can install directly via pip without compiling from source. Thank you!
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.