huggingface / huggingface/diffusers
When I use deepspeed_zero3 to train the controlnet on flux, an error occured "RuntimeError: tensor does not have a device".
- Lingua principale
- Python
- Stelle
- 34.5k
- Fork
- 7.3k
- Merge medio
- 3g 3h
- PR unite (30g)
- 91
Descrizione
[rank0]: File "/home/z/.local/lib/python3.10/site-packages/deepspeed/ops/adam/cpu_adam.py", line 163, in step
[rank0]: self.ds_opt_adam.adam_update(self.opt_id, state['step'], group['lr'], beta1, beta2, group['eps'],
[rank0]: RuntimeError: tensor does not have a device
Steps: 0%| | 0/500000 [00:04
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Begin with the reported DeepSpeed ZeRO-3 ControlNet-on-FLUX training setup and inspect deepspeed/ops/adam/cpu_adam.py at line 163, where the failure occurs. Reproduce the error, determine which tensor lacks a device, and document a confirmed correction with the reproduction result.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python, pytorch
- Ambito
- machine-learning
- Tipo di issue
- Bug
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100