bigscience-workshop / bigscience-workshop/bigscience
Running Bloom
Offen
- Vorherrschende Sprache
- Shell
- Sterne
- 1k
- Forks
- 102
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
What kind of machine is required to just run the inference on the 176B model? https://huggingface.co/bigscience/bloom
Beitragsleitfaden
Rechercherichtung
Beginne mit der verlinkten Hugging Face BLOOM-Modellseite und prüfe anschließend die Dokumentation dieses Repositorys sowie das Material zur Rechenumgebung. Ermittle die Maschinenanforderungen für die Inferenz des 176B-Modells und dokumentiere die Antwort in der relevanten Projektdokumentation; abgeschlossen ist die Aufgabe, wenn die Anforderungen die Frage eindeutig beantworten.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- huggingface
- Bereich
- documentation, machine-learning
- Issue-Typ
- Dokumentation
- Schwierigkeit
- 3/5
- Geschätzter Aufwand
- 1-2 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100