Ideal max_length for macaw-11b
Abierto
- Lenguaje dominante
- Python
- Estrellas
- 458
- Forks
- 54
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
Hi,
I just wanted to know what would be the ideal tokenizer model_max_length/max_length during inference of the model.
Does max_length affect generation quality of questions? If yes, then can you briefly explain me why.
Thanksss
P.S - I've been using 2048 as my max length.
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Evaluación
Este issue todavía no se ha evaluado.