huggingface / huggingface/diffusers

Can we pass output_attentions=True to DiT model such as pixart to get attention output?

Aperta
#9,205 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
stale
Lingua principale
Python
Stelle
34.5k
Fork
7.3k
Merge medio
3g 3h
PR unite (30g)
91

Descrizione

Can we pass output_attentions=True to DiT model such as pixart to get attention output? Like using output_attentions=True in transformer?

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Start by locating the DiT and PixArt model entry points and comparing how transformer models handle output_attentions. Determine the expected attention-output shape and behavior for these models, then add coverage for the requested option and verify that enabling it returns attention outputs without changing the default behavior.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python, pytorch
Ambito
machine-learning
Tipo di issue
Funzionalità
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.