modelscope / modelscope/DiffSynth-Studio

怎么进行多卡推理呢

Offen
#1,237 4 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Vorherrschende Sprache
Python
Sterne
13.1k
Forks
1.3k
Ø Merge
13 Std. 12 Min.
Gemergte PRs (30 T.)
45

Beschreibung

examples/wanvideo/model_inference/Wan2.1-VACE-14B.py
这个脚本怎么多卡批量推理呢,单卡可以顺利跑通,自己尝试写了个多卡脚本但是问题太多,有可以借鉴的方案吗?

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Erste Schritte

  1. Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
  3. Forke das Repository und arbeite in einem Branch.
  4. Öffne einen Pull Request, der die Issue-Nummer nennt.

Rechercherichtung

Beginne mit examples/wanvideo/model_inference/Wan2.1-VACE-14B.py und bestätige, wie dessen Inferenzpfad für eine einzelne Karte aufgerufen wird. Untersuche die vorhandenen Einstiegspunkte des Repositorys für Multi-Card- oder Batch-Inferenz, falls vorhanden, und definiere als abgeschlossen, dass es einen reproduzierbaren Ansatz für Multi-Card-Batch-Inferenz für dieses Skript gibt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
python
Bereich
distributed-systems, machine-learning
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.