huggingface / huggingface/diffusers

Consistency training fails to converge

Abierto
#8,277 6 comentarios 0 reacciones 0 asignados Ver en GitHub
stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

**Consistency training fails to converge**
When I use examples/research_projects/consistency_training/train_cm_ct_unconditional.py to train the consistency model, I try to follow the experimental parameters of the original paper, but I cannot obtain normal generation results.

**Script**
```bash
python -m accelerate.commands.launch examples/research_projects/consistency_training/train_cm_ct_unconditional.py
--dataset_name="cifar10"
--dataset_image_column_name="img"
--output_dir="examples/research_projects/consistency_training/outputs_cifar10"
--resolution=32
--max_train_steps=400000
--dataloader_num_workers=8
--noise_precond_type="cm"
--input_precond_type="cm"
--train_batch_size=512
--gradient_accumulation_steps=2
--learning_rate=1e-04
--lr_scheduler="constant"
--lr_warmup_steps=0
--use_ema
--validation_steps=5000
--eval_batch_size=32
--checkpointing_steps=5000
--checkpoints_total_limit=10
--use_8bit_adam
--mixed_precision=fp16
--resume_from_checkpoint="latest"
```

**Generated results(step 400000)**
![step400000](https://github.com/huggingface/diffusers/assets/58554991/7b261e5e-c873-4462-97b7-808b2e471c38)

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Comienza con examples/research_projects/consistency_training/train_cm_ct_unconditional.py y reproduce el comando y los parámetros reportados, incluida la salida de step-400000. Compara los resultados generados con el comportamiento esperado del artículo original y rastrea la configuración de entrenamiento para encontrar el origen de la falta de convergencia. Se considera terminado cuando el problema esté explicado y el script produzca resultados normales de generación o documente la corrección necesaria.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, pytorch
Área
machine-learning
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.