bigscience-workshop / bigscience-workshop/bigscience

eval opt-175B

Abierto
#63 1 comentario 0 reacciones 0 asignados Ver en GitHub
Lenguaje dominante
Shell
Estrellas
1k
Forks
102
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

I noticed you evaluated the opt-175B model, how did it convert to a Megatron-Deepspeed checkpoint? I can not find a 175B huggingface transformers checkpoint. Also, I can not successfully convert the opt-66B checkpoint. @thomasw21 Thanks for any reply!

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

El issue no menciona ningún archivo del repositorio, prueba ni punto de entrada. Empieza localizando las instrucciones, los scripts y los logs de la evaluación de OPT-175B y de la conversión de Megatron-DeepSpeed u OPT-66B; el trabajo estará terminado cuando se haya identificado la ruta que falta al checkpoint de 175B y se haya reproducido o documentado una conversión exitosa de 66B.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
machine-learning
Área
machine-learning
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
20/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.