huggingface / huggingface/diffusers
When I use deepspeed_zero3 to train the controlnet on flux, an error occured "RuntimeError: tensor does not have a device".
オープン
stale
- 主要言語
- Python
- スター
- 34.5k
- フォーク
- 7.3k
- 平均マージ
- 3日 3時間
- マージ済み PR（30日）
- 91
説明
[rank0]: File "/home/z/.local/lib/python3.10/site-packages/deepspeed/ops/adam/cpu_adam.py", line 163, in step
[rank0]: self.ds_opt_adam.adam_update(self.opt_id, state['step'], group['lr'], beta1, beta2, group['eps'],
[rank0]: RuntimeError: tensor does not have a device
Steps: 0%| | 0/500000 [00:04
コントリビューションガイド
調査の方向性
Begin with the reported DeepSpeed ZeRO-3 ControlNet-on-FLUX training setup and inspect deepspeed/ops/adam/cpu_adam.py at line 163, where the failure occurs. Reproduce the error, determine which tensor lacks a device, and document a confirmed correction with the reproduction result.
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- python, pytorch
- 領域
- machine-learning
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 25/100