allenai/open-instruct

Auf GitHub ansehen

AllenAI's post-training codebase

Sterne: 3.9k
Forks: 585
Offene Anfänger-Issues: 0
Indexierte Issues: 23
Ø Merge: 5 T. 17 Std.
Gemergte PRs (30 T.): 16

Vorherrschende Sprache: Python
Lizenz: Apache-2.0
Letzter GitHub-Push: 11.9.2026
Zuletzt indexiert: 13.9.2026
Beitragsleitfaden: Beitragsleitfaden
Verhaltenskodex: Kein Verhaltenskodex
Anfänger-Labels: Keine Anfänger-Labels indexiert

Offen Alle

Bisher 23 offene Issues indexiert

Feature request: Add CLI toggles for CPU offloading in grpo_fast.py Offen

PR welcome!

allenai/open-instruct#1031 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Repo is heavily dependent on AI2's cluster Offen

PR welcome!

allenai/open-instruct#1717 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
`reduce_loss=sum` removed in #1024 without deprecation warning: LR miscalibration and mean-of-microbatch-means under gradient accumulation Offen

allenai/open-instruct#1728 · 3 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
How to reproduce the OLMo 3 SFT stage and obtain OLMo-3-7B-Instruct? Offen

allenai/open-instruct#1756 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Wandb charts missing for Olmo3 7B Instruct RL Offen

allenai/open-instruct#1803 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Thinker chat templates cannot be used for SFT: every row's labels are undecidable Offen

allenai/open-instruct#1804 · 0 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
`--chat_template_name` silently accepts unrecognised names and trains with a different template Offen

allenai/open-instruct#1805 · 0 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
olmo-core runs don't record their Beaker experiment in wandb Offen

allenai/open-instruct#1812 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Numpy SFT cache is not invalidated by changes to label derivation Offen

allenai/open-instruct#1815 · 1 Kommentar · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
numpy_sft cache key is not reproducible across builds, silently discarding tokenization Offen

allenai/open-instruct#1818 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Drop OLMoE support Offen

allenai/open-instruct#1837 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
GRPO on the olmo-core path bypasses the hybrid weight-loading dispatch Offen

allenai/open-instruct#1842 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Increase cURL timeout in Dockerfile Offen

allenai/open-instruct#1845 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
MoE + Dolci-Think SFT baseline: seq 16384, reasoning-general math gains where instruct SFT gave 0.0000 Offen

allenai/open-instruct#1849 · 3 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
Mix multimodal SFT dataset. Offen

allenai/open-instruct#1851 · 0 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
Mix science SFT dataset. Offen

allenai/open-instruct#1852 · 0 Kommentare · 0 Reaktionen · 2 zugewiesene Personen · Indexiert am 13.9.2026
Auto-research: SFT data mixture search on a fast proxy for Olmo 3.5 Offen

allenai/open-instruct#1853 · 12 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add a think token Offen

allenai/open-instruct#1869 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Replicate Olmo 3 Think SFT on the KDA proxy: 2 epochs of Dolci-Think + paper-comparable evals Offen

allenai/open-instruct#1875 · 18 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Anneal-matched 0.5-epoch anchor for the Olmo 3.5 SFT mixture search (KDA 1.2B, Dolci-Think, seq 65536) Offen

allenai/open-instruct#1880 · 4 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
Hub think-dev tokenizer breaks SFT label derivation; #1879 does not reach it Offen

allenai/open-instruct#1882 · 0 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
Dense Olmo 3 7B Dolci-Think 1-epoch SFT as an infra check against the released Think-SFT Offen

allenai/open-instruct#1888 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Fix terminal evaluation recovery and SFT data filtering for the KDA checkpoint Offen

allenai/open-instruct#1891 · 0 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026

allenai/open-instruct

Neue Issues direkt in Ihr Postfach