huggingface / huggingface/diffusers
SD3.5-Controlnet-8b does not use encoder_hidden_states
- 主要言語
- Python
- スター
- 34.5k
- フォーク
- 7.3k
- 平均マージ
- 3日 3時間
- マージ済み PR(30日)
- 91
説明
In https://github.com/huggingface/diffusers/blob/main/examples/controlnet/train_controlnet_sd3.py#L1338
the encoder_hidden_states are set to prompt_embeds, which is incorrect if we are finetuning sd3.5-controlnet-8b since it does not use encoder_hidden_states as stated in https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/controlnets/controlnet_sd3.py#L406
コントリビューションガイド
調査の方向性
examples/controlnet/train_controlnet_sd3.py の 1338 行目付近から始め、次に src/diffusers/models/controlnets/controlnet_sd3.py の 406 行目付近にある SD3 ControlNet の実装を読んでください。トレーニング呼び出しの入力と、SD3.5-Controlnet-8b に関するモデルのドキュメント化された動作を比較してください。トレーニングのエントリーポイントが、このモデルが使用しない encoder_hidden_states 入力に依存しなくなれば完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- python
- 領域
- machine-learning
- issue の種類
- バグ
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 活発さ
- 停滞
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 45/100