modelscope / modelscope/DiffSynth-Studio

怎么进行多卡推理呢

未关闭
#1,237 4 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看

还没有人认领这个 Issue。

主要语言
Python
星标
13.1k
派生
1.3k
平均合并
13 小时 12 分钟
30 天内合并 PR
45

描述

examples/wanvideo/model_inference/Wan2.1-VACE-14B.py
这个脚本怎么多卡批量推理呢,单卡可以顺利跑通,自己尝试写了个多卡脚本但是问题太多,有可以借鉴的方案吗?

贡献指南

这个仓库没有索引到贡献指南

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

调研方向

从 examples/wanvideo/model_inference/Wan2.1-VACE-14B.py 开始,确认其单卡推理路径的调用方式。调查仓库中现有的多卡或批量推理入口(如果有),并将为此脚本定义一种可复现的多卡批量推理方法作为完成标准。

由索引模型根据 Issue 内容生成。

评估

技术栈
python
领域
distributed-systems, machine-learning
Issue 类型
功能
难度
5/5
预计耗时
一周以上
活跃度
停滞
描述清晰度
需要澄清
新手友好度
25/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。