bigscience-workshop / bigscience-workshop/bigscience

Is the 13B - unmodified Megatron gpt2 - baseline available? ( tr1-13B-base)

Abierto
#21 1 comentario 1 reacción 0 asignados Ver en GitHub
Lenguaje dominante
Shell
Estrellas
1k
Forks
102
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

I was super excited to hear about this project! I was wondering if the model is available anywhere?

In the [chronicles of tr1-13B-base](https://github.com/bigscience-workshop/bigscience/blob/master/train/tr1-13B-base/chronicles.md
) it says at the end: "All checkpoints converted to HF format and uploaded to HUB.", which I thought meant that it is available on Huggingface, but I can't seem to find it.

Is it available and I'm just not able to find it, or did I misunderstand and it's not available?

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Comienza revisando train/tr1-13B-base/chronicles.md y la ubicación referenciada en Hugging Face Hub. Verifica si los checkpoints de tr1-13B-base están disponibles públicamente e identifica el enlace correcto al modelo o aclara que no existen. La tarea está terminada cuando el issue tiene una respuesta precisa y fácil de localizar.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
huggingface
Área
machine-learning
Tipo de issue
Documentación
Dificultad
2/5
Tiempo estimado
1-3 horas
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
25/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.