bigscience-workshop / bigscience-workshop/bigscience

eval opt-175B

Ouverte
#63 1 commentaire 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Shell
Étoiles
1k
Forks
102
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

I noticed you evaluated the opt-175B model, how did it convert to a Megatron-Deepspeed checkpoint? I can not find a 175B huggingface transformers checkpoint. Also, I can not successfully convert the opt-66B checkpoint. @thomasw21 Thanks for any reply!

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

L’issue ne mentionne aucun fichier du dépôt, aucun test ni aucun point d’entrée. Commencez par localiser les instructions, les scripts et les logs relatifs à l’évaluation d’OPT-175B et à la conversion de Megatron-DeepSpeed ou d’OPT-66B ; le travail est terminé lorsque le chemin manquant vers le checkpoint 175B a été identifié et qu’une conversion 66B réussie a été reproduite ou documentée.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
machine-learning
Domaine
machine-learning
Type d'issue
Bug
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
20/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.