Auto3Dseg cuda OOM during Ensembling
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 30/100
- Issue 类型
- 缺陷
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 技术栈
- jupyter-notebook, python, pytorch
调研方向
从 Autorunner 的 ensembling 路径开始,使用 issue 中列出的版本和环境在 AMOS22 数据集上复现该故障。未指定源文件或测试;当 ensembling 在没有 CUDA out-of-memory 错误的情况下完成,并且训练成功继续进行时,即视为完成。
由索引模型根据 Issue 内容生成。
描述
Describe the bug
Models have all finished training, and during the ensembling process, cuda runs out of memory.
Reproduce
Steps to reproduce the behavior:
Run Autorunner on AMOS22 dataset
manually resetting cuda cache, restarting kernel and instance all come back to this error.
Expected behavior
training proceeds without error
MONAI version: 1.2.0
Numpy version: 1.25.2
Pytorch version: 2.0.1+cu117
MONAI flags: HAS_EXT = False, USE_COMPILED = False, USE_META_DICT = False
MONAI rev id: c33f1ba588ee00229a309000e888f9817b4f1934
MONAI file: /home/exouser/.local/lib/python3.10/site-packages/monai/init.py
Optional dependencies:
Pytorch Ignite version: 0.4.11
ITK version: 5.3.0
Nibabel version: 5.1.0
scikit-image version: 0.21.0
Pillow version: 9.0.1
Tensorboard version: 2.14.0
gdown version: 4.7.1
TorchVision version: 0.15.2+cu117
tqdm version: 4.66.1
lmdb version: 1.4.1
psutil version: 5.9.0
pandas version: 2.0.3
einops version: 0.6.1
transformers version: 4.21.3
mlflow version: 2.6.0
pynrrd version: 1.0.0
Environment (please complete the following information):
OS: ubuntu 22.04
Python 3.10.12
Driver Version: 525.85.05 CUDA Version: 12.0
GRID A100X-40C - 125GB RAM
I'm happy to provide any other logs to help, this is the second time I've run into this issue, the issue persists after a full kernel restart and RAM clearing.
- 主要语言
- Jupyter Notebook
- 星标
- 2.5k
- 派生
- 803
- 平均合并
- 6 天 22 小时
- 30 天内合并 PR
- 3
贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
Project-MONAI/tutorials 的其他 Issue
-
难度 1/5 1 小时以内 新手友好度 92/100
Project-MONAI/tutorials#2076 ·
-
难度 1/5 1-3 小时 新手友好度 76/100
Project-MONAI/tutorials#2069 ·
-
难度 1/5 1 小时以内 新手友好度 85/100
Project-MONAI/tutorials#1704 ·
-
难度 4/5 3-5 天 新手友好度 62/100
Project-MONAI/tutorials#2071 ·
-
难度 3/5 1-2 天 新手友好度 35/100
Project-MONAI/tutorials#2067 ·
查看 Project-MONAI/tutorials 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 78/100
bancolombia/sentinel#21 ·
-
难度 2/5 1-3 小时 新手友好度 85/100
infer-actively/pymdp#454 ·
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
-
难度 1/5 1 小时以内 新手友好度 94/100
UKGovernmentBEIS/inspect_evals#2486 · 1 条评论 ·
-
难度 2/5 1-3 小时 新手友好度 88/100