bigscience-workshop / bigscience-workshop/bigscience

Is the 13B - unmodified Megatron gpt2 - baseline available? ( tr1-13B-base)

Aperta
#21 1 commento 1 reazione 0 assegnatari Vedi su GitHub
Lingua principale
Shell
Stelle
1k
Fork
102
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

I was super excited to hear about this project! I was wondering if the model is available anywhere?

In the [chronicles of tr1-13B-base](https://github.com/bigscience-workshop/bigscience/blob/master/train/tr1-13B-base/chronicles.md
) it says at the end: "All checkpoints converted to HF format and uploaded to HUB.", which I thought meant that it is available on Huggingface, but I can't seem to find it.

Is it available and I'm just not able to find it, or did I misunderstand and it's not available?

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia controllando train/tr1-13B-base/chronicles.md e la posizione di Hugging Face Hub a cui si fa riferimento. Verifica se i checkpoint di tr1-13B-base sono pubblicamente disponibili e individua il link corretto al modello, oppure chiarisci che non sono presenti. L’attività è completata quando l’issue contiene una risposta accurata e facilmente reperibile.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
huggingface
Ambito
machine-learning
Tipo di issue
Documentazione
Difficoltà
2/5
Tempo stimato
1-3 ore
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.