huggingface / huggingface/diffusers
Incompatibility between FlashAttention and ERNIE-Image
Personne n'a encore pris cette issue.
- Langage dominant
- Python
- Étoiles
- 34.5k
- Forks
- 7.3k
- Merge moyen
- 3 j 3 h
- PR mergées (30 j)
- 91
Description
Hello,
When I enable FlashAttention backend on an ErnieImagePipeline, it crashes with following error:
ValueError: attn_mask is not supported for flash-attn 2.
But same Python code (see below) doesn't crash with ZImagePipeline and Flux2KleinPipeline.
Reproduction
pipeline.transformer.set_attention_backend("flash")
System Info
- OS: Windows
- Python: 3.13.11
- Diffusers: 9c4e201dd1cf7d16449c3f4e9affc556d7bc3404
- FlashAttention: 2.8.3+cu130torch2.10
- SDNQ: 0.1.6
Guide de contribution
Ouvrir le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Piste de recherche
Commencez par ErnieImagePipeline et sa configuration de l’attention du transformer, puis comparez la gestion des masques d’attention avec ZImagePipeline et Flux2KleinPipeline. Reproduisez l’échec indiqué de set_attention_backend("flash") dans l’environnement spécifié ; le travail est terminé lorsque ERNIE-Image peut utiliser le backend flash sans l’erreur attn_mask.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Stack technique
- python, pytorch
- Domaine
- machine-learning
- Type d'issue
- Bug
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Activité
- Calme
- Clarté
- Plutôt claire
- Accessibilité débutants
- 55/100