bigscience-workshop / bigscience-workshop/bigscience

eval opt-175B

Aperta
#63 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Shell
Stelle
1k
Fork
102
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

I noticed you evaluated the opt-175B model, how did it convert to a Megatron-Deepspeed checkpoint? I can not find a 175B huggingface transformers checkpoint. Also, I can not successfully convert the opt-66B checkpoint. @thomasw21 Thanks for any reply!

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

L’issue non indica alcun file del repository, test o punto di ingresso. Inizia individuando le istruzioni, gli script e i log per la valutazione di OPT-175B e la conversione di Megatron-DeepSpeed o OPT-66B; il lavoro è completato quando è stato identificato il percorso mancante del checkpoint 175B e quando una conversione 66B riuscita è stata riprodotta o documentata.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
machine-learning
Ambito
machine-learning
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
20/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.