huggingface / huggingface/diffusers
[Quantization] Add support for Comfy Quants backend
オープン
@PrakshaaleJain がすでに取り組んでいます。
2026年9月7日 から。
- 主要言語
- Python
- スター
- 34.5k
- フォーク
- 7.3k
- 平均マージ
- 3日 3時間
- マージ済み PR（30日）
- 91
説明
Add support for the Comfy Quant quantization toolkit
Supported formats: FP8 (E4M3/E5M2), INT8 (W8A8, tensorwise), MXFP8, NVFP4, INT4 (SVDQuant W4A4, AWQ W4A16).
comfy-quants is export-only. The inference needs to run with comfy-kitchen
Proposed approach
Add a ComfyQuantConfig / ComfyQuantizer that uses comfy-kitchen to wrap weights as a QuantizedTensor with the appropriate layout.
from diffusers import FluxTransformer2DModel, ComfyQuantConfig
config = ComfyQuantConfig(compute_dtype=torch.bfloat16)
model = FluxTransformer2DModel.from_single_file(
"path/to/comfy_quant_checkpoint.safetensors",
quantization_config=config,
)
Related
• comfy-quants https://github.com/Comfy-Org/comfy-quants
• comfy-kitchen https://github.com/Comfy-Org/comfy-kitchen
コントリビューションガイド
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
評価
この issue はまだ評価されていません。