huggingface / huggingface/diffusers
Parallel Inference support ffor Dit model
Offen
stale
- Vorherrschende Sprache
- Python
- Sterne
- 34.5k
- Forks
- 7.3k
- Ø Merge
- 3 T. 3 Std.
- Gemergte PRs (30 T.)
- 91
Beschreibung
does diffusers have any plan to support Parallel Inference like TP/PP/SP？
Beitragsleitfaden
Rechercherichtung
Keine Dateien, Tests oder Einstiegspunkte sind identifiziert. Beginne damit zu klären, welches Dit-Modell und welche parallelen Inferenzmodi – TP, PP oder SP – erforderlich sind; als erledigt würde dies gelten, sobald ein Maintainer den Umfang und den Implementierungsplan bestätigt hat.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python, pytorch
- Bereich
- distributed-systems, machine-learning
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 20/100