bigscience-workshop / bigscience-workshop/bigscience
Requirements to perform inference over the BigScience Bloom model
Offen
- Vorherrschende Sprache
- Shell
- Sterne
- 1k
- Forks
- 102
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
What are the minimum requirements regarding RAM and GPU memories for performing only inferences over the
[Bloom](https://huggingface.co/bigscience/bloom) model?
Beitragsleitfaden
Rechercherichtung
Beginne mit der verlinkten BigScience Bloom-Modellseite und ermittle den für die reine Inferenz erforderlichen Mindestbedarf an RAM und GPU-Speicher. Dokumentiere diese Anforderungen am relevanten Dokumentationsort des Repositorys; die Aufgabe ist abgeschlossen, wenn die Anforderungen für jemanden, der Bloom-Inferenz ausführt, klar angegeben sind.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- huggingface
- Bereich
- machine-learning
- Issue-Typ
- Dokumentation
- Schwierigkeit
- 2/5
- Geschätzter Aufwand
- 1-3 Stunden
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 35/100