modelscope / modelscope/DiffSynth-Studio
怎么进行多卡推理呢
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Python
- Sterne
- 13.1k
- Forks
- 1.3k
- Ø Merge
- 13 Std. 12 Min.
- Gemergte PRs (30 T.)
- 45
Beschreibung
examples/wanvideo/model_inference/Wan2.1-VACE-14B.py
这个脚本怎么多卡批量推理呢,单卡可以顺利跑通,自己尝试写了个多卡脚本但是问题太多,有可以借鉴的方案吗?
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Beginne mit examples/wanvideo/model_inference/Wan2.1-VACE-14B.py und bestätige, wie dessen Inferenzpfad für eine einzelne Karte aufgerufen wird. Untersuche die vorhandenen Einstiegspunkte des Repositorys für Multi-Card- oder Batch-Inferenz, falls vorhanden, und definiere als abgeschlossen, dass es einen reproduzierbaren Ansatz für Multi-Card-Batch-Inferenz für dieses Skript gibt.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python
- Bereich
- distributed-systems, machine-learning
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100