huggingface / huggingface/diffusers

SD3.5-Controlnet-8b does not use encoder_hidden_states

Abierto
#11,902 4 comentarios 0 reacciones 0 asignados Ver en GitHub
stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

In https://github.com/huggingface/diffusers/blob/main/examples/controlnet/train_controlnet_sd3.py#L1338
the encoder_hidden_states are set to prompt_embeds, which is incorrect if we are finetuning sd3.5-controlnet-8b since it does not use encoder_hidden_states as stated in https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/controlnets/controlnet_sd3.py#L406

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Empieza en examples/controlnet/train_controlnet_sd3.py, alrededor de la línea 1338, y después lee la implementación de SD3 ControlNet en src/diffusers/models/controlnets/controlnet_sd3.py, alrededor de la línea 406. Compara las entradas de la llamada de entrenamiento con el comportamiento documentado del modelo para SD3.5-Controlnet-8b. Se considera terminado cuando el punto de entrada del entrenamiento ya no depende de una entrada encoder_hidden_states que este modelo no utiliza.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python
Área
machine-learning
Tipo de issue
Error
Dificultad
3/5
Tiempo estimado
1-2 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
45/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.