bigscience-workshop / bigscience-workshop/bigscience

Sharing the 1.3B-Pile@300B model

Aperta
#46 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Shell
Stelle
1k
Fork
102
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

The 1.3B-Pile@300B model is quite strong:
https://docs.google.com/spreadsheets/d/1CI8Q9RCblLRzUOPJ6ViqBmo284-8ojluQ-CmaEuhuv0/edit#gid=1295801165

lambada 0.6088 piqa 0.7160 hellaswag 0.5209 --> these are all better than gpt-neo 1.3B.

Could you share the model? Thank you.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Non vengono indicati file del repository, test o punti di ingresso; l’issue fornisce solo un link a Google Sheets con i risultati dei benchmark e chiede di condividere il modello. Inizia esaminando i risultati collegati e determinando il percorso di distribuzione previsto. «Completato» non è definito, perché non sono specificati alcun meccanismo di consegna né verifiche di accettazione.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Ambito
machine-learning
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.