abetlen / abetlen/llama-cpp-python

Support sm100 and sm120 in CUDA pre‑built wheels

未关闭
#2,341 0 条评论 1 个 reaction 已指派 0 人 在 GitHub 查看
主要语言
Python
星标
10.6k
派生
1.4k
PR 合并指标
PR 指标待抓取

描述

```
CUDA : ARCHS = 750,800,860,890,900
```
The current pre‑built CUDA wheels only support up to sm90. Please extend the build to include sm100 and sm120 so users with newer GPUs (B200 and RTX 50 series) can install directly via pip without compiling from source. Thank you!

贡献指南

打开贡献指南

评估

这个 Issue 还没有评估数据。

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。