huggingface / huggingface/diffusers
When I use deepspeed_zero3 to train the controlnet on flux, an error occured "RuntimeError: tensor does not have a device".
Abierto
stale
- Lenguaje dominante
- Python
- Estrellas
- 34.5k
- Forks
- 7.3k
- Merge medio
- 3 d 3 h
- PR fusionados (30 d)
- 91
Descripción
[rank0]: File "/home/z/.local/lib/python3.10/site-packages/deepspeed/ops/adam/cpu_adam.py", line 163, in step
[rank0]: self.ds_opt_adam.adam_update(self.opt_id, state['step'], group['lr'], beta1, beta2, group['eps'],
[rank0]: RuntimeError: tensor does not have a device
Steps: 0%| | 0/500000 [00:04
Guía de contribución
Línea de trabajo
Begin with the reported DeepSpeed ZeRO-3 ControlNet-on-FLUX training setup and inspect deepspeed/ops/adam/cpu_adam.py at line 163, where the failure occurs. Reproduce the error, determine which tensor lacks a device, and document a confirmed correction with the reproduction result.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python, pytorch
- Área
- machine-learning
- Tipo de issue
- Error
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 25/100