huggingface / huggingface/diffusers
Can we pass output_attentions=True to DiT model such as pixart to get attention output?
Abierto
stale
- Lenguaje dominante
- Python
- Estrellas
- 34.5k
- Forks
- 7.3k
- Merge medio
- 3 d 3 h
- PR fusionados (30 d)
- 91
Descripción
Can we pass output_attentions=True to DiT model such as pixart to get attention output? Like using output_attentions=True in transformer?
Guía de contribución
Línea de trabajo
Start by locating the DiT and PixArt model entry points and comparing how transformer models handle output_attentions. Determine the expected attention-output shape and behavior for these models, then add coverage for the requested option and verify that enabling it returns attention outputs without changing the default behavior.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python, pytorch
- Área
- machine-learning
- Tipo de issue
- Nueva funcionalidad
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Estado de actividad
- Estancado
- Claridad
- Bastante claro
- Aptitud para principiantes
- 25/100