huggingface / huggingface/diffusers
SD3.5-Controlnet-8b does not use encoder_hidden_states
- Lenguaje dominante
- Python
- Estrellas
- 34.5k
- Forks
- 7.3k
- Merge medio
- 3 d 3 h
- PR fusionados (30 d)
- 91
Descripción
In https://github.com/huggingface/diffusers/blob/main/examples/controlnet/train_controlnet_sd3.py#L1338
the encoder_hidden_states are set to prompt_embeds, which is incorrect if we are finetuning sd3.5-controlnet-8b since it does not use encoder_hidden_states as stated in https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/controlnets/controlnet_sd3.py#L406
Guía de contribución
Línea de trabajo
Empieza en examples/controlnet/train_controlnet_sd3.py, alrededor de la línea 1338, y después lee la implementación de SD3 ControlNet en src/diffusers/models/controlnets/controlnet_sd3.py, alrededor de la línea 406. Compara las entradas de la llamada de entrenamiento con el comportamiento documentado del modelo para SD3.5-Controlnet-8b. Se considera terminado cuando el punto de entrada del entrenamiento ya no depende de una entrada encoder_hidden_states que este modelo no utiliza.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python
- Área
- machine-learning
- Tipo de issue
- Error
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Estado de actividad
- Estancado
- Claridad
- Bastante claro
- Aptitud para principiantes
- 45/100