huggingface / huggingface/diffusers
[Features] Planning to support TensorRT for Flux Pipelines
- Lingua principale
- Python
- Stelle
- 34.5k
- Fork
- 7.3k
- Merge medio
- 3g 3h
- PR unite (30g)
- 91
Descrizione
🚀 Hi team,
I’m planning to code all Flux Pipelines with TensorRT support.
My plan is to create a new subfolder: `flux-tensorrt` inside the `examples` folder.
Pipelines to be supported:
```
FluxPipeline
FluxImg2ImgPipeline
FluxInpaintPipeline
FluxFillPipeline
FluxKontextPipeline
FluxKontextInpaintPipeline
```
✅ Initial phase: Support for both Flux.Dev and Flux Kontext.
🔜 Next step: Extend to the other pipelines.
📚 Some related references for Flux Kontext:
- https://blogs.nvidia.com/blog/rtx-ai-garage-flux-kontext-nim-tensorrt/
- https://github.com/NVIDIA/TensorRT/pull/4548
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Start by reviewing the examples directory and the proposed flux-tensorrt subfolder, then examine the FluxPipeline and FluxKontextPipeline entry points. Define the TensorRT integration scope for Flux.Dev and Flux Kontext first; done would mean those pipelines are supported before extending coverage to the remaining listed pipelines.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python
- Ambito
- machine-learning
- Tipo di issue
- Funzionalità
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 20/100