huggingface / huggingface/diffusers
SD3.5-Controlnet-8b does not use encoder_hidden_states
- Langage dominant
- Python
- Étoiles
- 34.5k
- Forks
- 7.3k
- Merge moyen
- 3 j 3 h
- PR mergées (30 j)
- 91
Description
In https://github.com/huggingface/diffusers/blob/main/examples/controlnet/train_controlnet_sd3.py#L1338
the encoder_hidden_states are set to prompt_embeds, which is incorrect if we are finetuning sd3.5-controlnet-8b since it does not use encoder_hidden_states as stated in https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/controlnets/controlnet_sd3.py#L406
Guide de contribution
Ouvrir le guide de contribution
Piste de recherche
Commencez par examples/controlnet/train_controlnet_sd3.py vers la ligne 1338, puis lisez l’implémentation de SD3 ControlNet dans src/diffusers/models/controlnets/controlnet_sd3.py vers la ligne 406. Comparez les entrées de l’appel d’entraînement avec le comportement documenté du modèle pour SD3.5-Controlnet-8b. Le travail est terminé lorsque le point d’entrée de l’entraînement ne dépend plus d’une entrée encoder_hidden_states que ce modèle n’utilise pas.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Stack technique
- python
- Domaine
- machine-learning
- Type d'issue
- Bug
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Activité
- À l'abandon
- Clarté
- Plutôt claire
- Accessibilité débutants
- 45/100