modelscope / modelscope/DiffSynth-Studio
怎么进行多卡推理呢
オープン
まだ誰も着手していません。
- 主要言語
- Python
- スター
- 13.1k
- フォーク
- 1.3k
- 平均マージ
- 13時間 12分
- マージ済み PR(30日)
- 45
説明
examples/wanvideo/model_inference/Wan2.1-VACE-14B.py
这个脚本怎么多卡批量推理呢,单卡可以顺利跑通,自己尝试写了个多卡脚本但是问题太多,有可以借鉴的方案吗?
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
調査の方向性
examples/wanvideo/model_inference/Wan2.1-VACE-14B.py から始め、単一カードでの推論パスがどのように呼び出されるかを確認してください。リポジトリに既存のマルチカードまたはバッチ推論のエントリポイントがあれば調査し、このスクリプトで再現可能なマルチカード・バッチ推論の方法を確立することを完了の定義としてください。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- python
- 領域
- distributed-systems, machine-learning
- issue の種類
- 機能追加
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 25/100