microsoft/bitnet-b1.58-2B-4T-bf16 -> pre-trained before fine tuning?
Aperta
Nessuno ha ancora preso questa issue.
- Lingua principale
- C++
- Stelle
- 40.3k
- Fork
- 3.7k
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
I'm wondering if the microsoft/bitnet-b1.58-2B-4T-bf16 variant is the weights before SFT and DPO.
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Inizia dalla model card collegata microsoft/bitnet-b1.58-2B-4T-bf16 e dal contesto del repository BitNet. Determina se i pesi pubblicati risalgono a prima di SFT e DPO, quindi documenta una risposta chiara in questa issue; il payload non indica alcun file sorgente né alcun test.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- huggingface
- Ambito
- machine-learning
- Tipo di issue
- Documentazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100