anarchy-ai / anarchy-ai/LLM-VM
Implement 4bit, 8bit quantization for Nvidia GPUs
未关闭
Clarify (pre-bounty)
feat/enhancement
SWAG
- 主要语言
- Python
- 星标
- 490
- 派生
- 139
- PR 合并指标
- 30 天内没有已合并 PR
描述
Can be done with `GPTQ`
贡献指南
评估
这个 Issue 还没有评估数据。