huggingface / huggingface/diffusers

[New Pipeline]: SmoothCache: A Universal Inference Acceleration Technique for Diffusion Transformers

Aperta
#11,135 4 commenti 0 reazioni 0 assegnatari Vedi su GitHub
stale
Lingua principale
Python
Stelle
34.5k
Fork
7.3k
Merge medio
3g 3h
PR unite (30g)
91

Descrizione

### Model/Pipeline/Scheduler description

Repo: https://github.com/Roblox/SmoothCache
Paper: https://huggingface.co/papers/2411.10510

This is a training-free acceleration technique for DiT pipelines, that controls caching behavior of individual components and works across different pipelines and modalities.

There is a non-intrusive helper class implemented for plug-and-play integration with Diffusers DiT Pipeline. No changes inside Diffusers needed for this to work.

We're happy to add SmoothCache in the form of a doc-only PR to benefit a broader user-base.

### Open source status

- [x] The model implementation is available.
- [ ] The model weights are available (Only relevant if addition is not a scheduler).

### Provide useful links for the implementation

_No response_

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia dal repository e dal paper di SmoothCache collegati, quindi esamina il punto di ingresso della documentazione di Diffusers per le pipeline DiT. Un contributo che riguarda solo la documentazione è completo quando l'integrazione plug-and-play di SmoothCache, il supporto per più pipeline e modalità, il link all'implementazione e la disponibilità dei pesi del modello sono documentati accuratamente.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python, pytorch
Ambito
documentation, machine-learning
Tipo di issue
Documentazione
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.