bigscience-workshop / bigscience-workshop/bigscience
eval opt-175B
- Vorherrschende Sprache
- Shell
- Sterne
- 1k
- Forks
- 102
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
I noticed you evaluated the opt-175B model, how did it convert to a Megatron-Deepspeed checkpoint? I can not find a 175B huggingface transformers checkpoint. Also, I can not successfully convert the opt-66B checkpoint. @thomasw21 Thanks for any reply!
Beitragsleitfaden
Rechercherichtung
Das Issue nennt keine Repository-Datei, keinen Test und keinen Einstiegspunkt. Beginne damit, die Anweisungen, Skripte und Logs für die OPT-175B-Evaluierung und die Konvertierung von Megatron-DeepSpeed oder OPT-66B zu finden; abgeschlossen ist die Aufgabe, wenn der fehlende 175B-Checkpoint-Pfad identifiziert und eine erfolgreiche 66B-Konvertierung reproduziert oder dokumentiert wurde.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- machine-learning
- Bereich
- machine-learning
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 20/100