huggingface / huggingface/diffusers
Incompatibility between FlashAttention and ERNIE-Image
Nessuno ha ancora preso questa issue.
- Lingua principale
- Python
- Stelle
- 34.5k
- Fork
- 7.3k
- Merge medio
- 3g 3h
- PR unite (30g)
- 91
Descrizione
Hello,
When I enable FlashAttention backend on an ErnieImagePipeline, it crashes with following error:
ValueError: attn_mask is not supported for flash-attn 2.
But same Python code (see below) doesn't crash with ZImagePipeline and Flux2KleinPipeline.
Reproduction
pipeline.transformer.set_attention_backend("flash")
System Info
- OS: Windows
- Python: 3.13.11
- Diffusers: 9c4e201dd1cf7d16449c3f4e9affc556d7bc3404
- FlashAttention: 2.8.3+cu130torch2.10
- SDNQ: 0.1.6
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Inizia con ErnieImagePipeline e la relativa configurazione dell’attenzione del transformer, quindi confronta la gestione delle maschere di attenzione con ZImagePipeline e Flux2KleinPipeline. Riproduci il fallimento mostrato di set_attention_backend("flash") nell’ambiente indicato; il lavoro è completato quando ERNIE-Image può usare il backend flash senza l’errore attn_mask.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python, pytorch
- Ambito
- machine-learning
- Tipo di issue
- Bug
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Stato di attività
- Tranquilla
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 55/100