bigscience-workshop / bigscience-workshop/bigscience
Requirements to perform inference over the BigScience Bloom model
Aperta
- Lingua principale
- Shell
- Stelle
- 1k
- Fork
- 102
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
What are the minimum requirements regarding RAM and GPU memories for performing only inferences over the
[Bloom](https://huggingface.co/bigscience/bloom) model?
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Inizia dalla pagina collegata del modello BigScience Bloom e determina la quantità minima di RAM e memoria GPU necessaria esclusivamente per l'inferenza. Documenta questi requisiti nella posizione pertinente della documentazione del repository; il lavoro è completato quando i requisiti sono chiaramente indicati per chi esegue l'inferenza di Bloom.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- huggingface
- Ambito
- machine-learning
- Tipo di issue
- Documentazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Stato di attività
- Ferma
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 35/100