huggingface / huggingface/diffusers

[Features] Planning to support TensorRT for Flux Pipelines

Aperta
#12,202 3 commenti 1 reazione 0 assegnatari Vedi su GitHub
stale
Lingua principale
Python
Stelle
34.5k
Fork
7.3k
Merge medio
3g 3h
PR unite (30g)
91

Descrizione

🚀 Hi team,

I’m planning to code all Flux Pipelines with TensorRT support.
My plan is to create a new subfolder: `flux-tensorrt` inside the `examples` folder.

Pipelines to be supported:
```
FluxPipeline
FluxImg2ImgPipeline
FluxInpaintPipeline
FluxFillPipeline
FluxKontextPipeline
FluxKontextInpaintPipeline
```

✅ Initial phase: Support for both Flux.Dev and Flux Kontext.
🔜 Next step: Extend to the other pipelines.

📚 Some related references for Flux Kontext:

- https://blogs.nvidia.com/blog/rtx-ai-garage-flux-kontext-nim-tensorrt/

- https://github.com/NVIDIA/TensorRT/pull/4548

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Start by reviewing the examples directory and the proposed flux-tensorrt subfolder, then examine the FluxPipeline and FluxKontextPipeline entry points. Define the TensorRT integration scope for Flux.Dev and Flux Kontext first; done would mean those pipelines are supported before extending coverage to the remaining listed pipelines.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
machine-learning
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
20/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.