InternLM / InternLM/InternLM-XComposer
多张gpu没法加载
Open
- Dominant language
- Python
- Stars
- 2.9k
- Forks
- 175
- PR merge metrics
- No merged PRs in 30d
Description
我在运行python web_demo.py --num_gpus 4的时候，执行到第49行代码的时候就报错cuda out of memory退出程序，执行不了后续代码。nvidia-smi监测显示只在第一张显卡上有效，其他显卡都没用上。
这种情况怎么处理呢
Contributor guide
No contributing guide indexed for this repository
Assessment
This issue has not been assessed yet.