bigscience-workshop / bigscience-workshop/bigscience
Sharing the 1.3B-Pile@300B model
- Lingua principale
- Shell
- Stelle
- 1k
- Fork
- 102
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
The 1.3B-Pile@300B model is quite strong:
https://docs.google.com/spreadsheets/d/1CI8Q9RCblLRzUOPJ6ViqBmo284-8ojluQ-CmaEuhuv0/edit#gid=1295801165
lambada 0.6088 piqa 0.7160 hellaswag 0.5209 --> these are all better than gpt-neo 1.3B.
Could you share the model? Thank you.
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Non vengono indicati file del repository, test o punti di ingresso; l’issue fornisce solo un link a Google Sheets con i risultati dei benchmark e chiede di condividere il modello. Inizia esaminando i risultati collegati e determinando il percorso di distribuzione previsto. «Completato» non è definito, perché non sono specificati alcun meccanismo di consegna né verifiche di accettazione.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Ambito
- machine-learning
- Tipo di issue
- Funzionalità
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100