huggingface / huggingface/diffusers

SD3.5-Controlnet-8b does not use encoder_hidden_states

オープン
#11,902 コメント 4 件 リアクション 0 件 担当者 0 名 GitHub で見る
stale
主要言語
Python
スター
34.5k
フォーク
7.3k
平均マージ
3日 3時間
マージ済み PR(30日)
91

説明

In https://github.com/huggingface/diffusers/blob/main/examples/controlnet/train_controlnet_sd3.py#L1338
the encoder_hidden_states are set to prompt_embeds, which is incorrect if we are finetuning sd3.5-controlnet-8b since it does not use encoder_hidden_states as stated in https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/controlnets/controlnet_sd3.py#L406

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

examples/controlnet/train_controlnet_sd3.py の 1338 行目付近から始め、次に src/diffusers/models/controlnets/controlnet_sd3.py の 406 行目付近にある SD3 ControlNet の実装を読んでください。トレーニング呼び出しの入力と、SD3.5-Controlnet-8b に関するモデルのドキュメント化された動作を比較してください。トレーニングのエントリーポイントが、このモデルが使用しない encoder_hidden_states 入力に依存しなくなれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
python
領域
machine-learning
issue の種類
バグ
難易度
3/5
見積もり時間
1〜2日
活発さ
停滞
明瞭さ
おおむね明確
初心者へのやさしさ
45/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。