bigscience-workshop / bigscience-workshop/bigscience

Is the 13B - unmodified Megatron gpt2 - baseline available? ( tr1-13B-base)

Offen
#21 1 Kommentar 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Shell
Sterne
1k
Forks
102
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

I was super excited to hear about this project! I was wondering if the model is available anywhere?

In the [chronicles of tr1-13B-base](https://github.com/bigscience-workshop/bigscience/blob/master/train/tr1-13B-base/chronicles.md
) it says at the end: "All checkpoints converted to HF format and uploaded to HUB.", which I thought meant that it is available on Huggingface, but I can't seem to find it.

Is it available and I'm just not able to find it, or did I misunderstand and it's not available?

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne mit der Prüfung von train/tr1-13B-base/chronicles.md und des dort referenzierten Speicherorts im Hugging Face Hub. Überprüfe, ob die Checkpoints von tr1-13B-base öffentlich verfügbar sind, und ermittle den korrekten Modelllink oder stelle klar, dass sie nicht vorhanden sind. Die Aufgabe ist abgeschlossen, wenn das Issue eine korrekte und auffindbare Antwort enthält.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
huggingface
Bereich
machine-learning
Issue-Typ
Dokumentation
Schwierigkeit
2/5
Geschätzter Aufwand
1-3 Stunden
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.