huggingface / huggingface/diffusers

SD3.5-Controlnet-8b does not use encoder_hidden_states

Ouverte
#11,902 4 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
stale
Langage dominant
Python
Étoiles
34.5k
Forks
7.3k
Merge moyen
3 j 3 h
PR mergées (30 j)
91

Description

In https://github.com/huggingface/diffusers/blob/main/examples/controlnet/train_controlnet_sd3.py#L1338
the encoder_hidden_states are set to prompt_embeds, which is incorrect if we are finetuning sd3.5-controlnet-8b since it does not use encoder_hidden_states as stated in https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/controlnets/controlnet_sd3.py#L406

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

Commencez par examples/controlnet/train_controlnet_sd3.py vers la ligne 1338, puis lisez l’implémentation de SD3 ControlNet dans src/diffusers/models/controlnets/controlnet_sd3.py vers la ligne 406. Comparez les entrées de l’appel d’entraînement avec le comportement documenté du modèle pour SD3.5-Controlnet-8b. Le travail est terminé lorsque le point d’entrée de l’entraînement ne dépend plus d’une entrée encoder_hidden_states que ce modèle n’utilise pas.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
python
Domaine
machine-learning
Type d'issue
Bug
Difficulté
3/5
Temps estimé
1-2 jours
Activité
À l'abandon
Clarté
Plutôt claire
Accessibilité débutants
45/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.