huggingface / huggingface/diffusers
[New Pipeline]: SmoothCache: A Universal Inference Acceleration Technique for Diffusion Transformers
- Lingua principale
- Python
- Stelle
- 34.5k
- Fork
- 7.3k
- Merge medio
- 3g 3h
- PR unite (30g)
- 91
Descrizione
### Model/Pipeline/Scheduler description
Repo: https://github.com/Roblox/SmoothCache
Paper: https://huggingface.co/papers/2411.10510
This is a training-free acceleration technique for DiT pipelines, that controls caching behavior of individual components and works across different pipelines and modalities.
There is a non-intrusive helper class implemented for plug-and-play integration with Diffusers DiT Pipeline. No changes inside Diffusers needed for this to work.
We're happy to add SmoothCache in the form of a doc-only PR to benefit a broader user-base.
### Open source status
- [x] The model implementation is available.
- [ ] The model weights are available (Only relevant if addition is not a scheduler).
### Provide useful links for the implementation
_No response_
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Inizia dal repository e dal paper di SmoothCache collegati, quindi esamina il punto di ingresso della documentazione di Diffusers per le pipeline DiT. Un contributo che riguarda solo la documentazione è completo quando l'integrazione plug-and-play di SmoothCache, il supporto per più pipeline e modalità, il link all'implementazione e la disponibilità dei pesi del modello sono documentati accuratamente.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python, pytorch
- Ambito
- documentation, machine-learning
- Tipo di issue
- Documentazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Stato di attività
- Ferma
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 35/100