allenai / allenai/longformer

about global attention some issue

Abierto
#182 0 comentarios 0 reacciones 0 asignados Ver en GitHub
Lenguaje dominante
Python
Estrellas
2.2k
Forks
285
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

when i use LongformerForQuestionAnswering source code, i found automatically set global attention code
`sep_token_indices.shape[0] == 3 * batch_size
sep_token_indices.view(batch_size, 3, 2)[:, 0, 1]
`
three is mean there have three sep token ,but i use dataset like triviqa ,input is question and content . only two sep token, so i change it
`sep_token_indices.shape[0] == 2 * batch_size
sep_token_indices.view(batch_size, 2, 2)[:, 0, 1]
`
Is it right for me to do this?

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Evaluación

Este issue todavía no se ha evaluado.

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.