anarchy-ai / anarchy-ai/LLM-VM
Implement 4bit, 8bit quantization for Nvidia GPUs
オープン
Clarify (pre-bounty)
feat/enhancement
SWAG
- 主要言語
- Python
- スター
- 490
- フォーク
- 139
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
Can be done with `GPTQ`
コントリビューションガイド
評価
この issue はまだ評価されていません。