microsoft/BitNet

Auf GitHub ansehen

Official inference framework for 1-bit LLMs

Sterne: 40.3k
Forks: 3.7k
Offene Anfänger-Issues: 1
Indexierte Issues: 211

Vorherrschende Sprache: C++
Lizenz: MIT
Letzter GitHub-Push: 27.7.2026
Zuletzt indexiert: 19.9.2026
Beitragsleitfaden: Kein Beitragsleitfaden
Verhaltenskodex: Verhaltenskodex
Anfänger-Labels: Keine Anfänger-Labels indexiert
PR-Merge-Kennzahlen: Keine gemergten PRs in 30 T.

Einsteigerfreundlich Alles

Offen Alle

Bisher 211 offene Issues indexiert

build/bin/llama-cli throws SIGSEGV, Segmentation fault when using a TL2 GGUF model Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 68/100

microsoft/BitNet#631 · 2 Kommentare · Erstellt am 16.9.2026
Verify evals on Papers with Code Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 55/100

microsoft/BitNet#630 · Erstellt am 14.9.2026
Latent int16 overflow in ggml_vec_dot_i2_i8_s_1x1: 128 maddubs results per lane against a 32767 ceiling Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 56/100

microsoft/BitNet#629 · 5 Kommentare · Erstellt am 13.9.2026
i2_s AVX2 GEMM folds the int16 accumulator 10x more often than its own bound requires (7.5% measured) Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 55/100

microsoft/BitNet#628 · 1 Kommentar · Erstellt am 13.9.2026
Regression: Falcon-E models cannot be loaded — "unknown pre-tokenizer type: 'falcon_e'" (support added in #268 was lost in the llama.cpp submodule update) Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 55/100

microsoft/BitNet#622 · Erstellt am 06.9.2026
convert-hf-to-gguf-bitnet.py --outtype i2_s silently writes F16 (not I2_S) for LlamaForCausalLM BitNet checkpoints (Falcon3 / Falcon-E 1.58bit) Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 76/100

microsoft/BitNet#621 · Erstellt am 06.9.2026
README "Convert from .safetensors" flow is broken: convert-ms-to-gguf-bitnet.py KeyError MODEL_ARCH.BITNET_25, and llama-quantize has no I2_S ftype (setup_env.py i2_s conversion path also affected) Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 55/100

microsoft/BitNet#619 · Erstellt am 05.9.2026
ggml-cpu.c: `src1_cont` undeclared → build fails on ARM CPUs with i8mm (Apple M2/M3/M4, Graviton3, ...) Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100

microsoft/BitNet#618 · 1 Kommentar · Erstellt am 05.9.2026
[Bug]: I2_S GEMM fast path produces garbage for multi-token prompts on AVX-only CPUs Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 68/100

microsoft/BitNet#617 · 1 Kommentar · Erstellt am 26.8.2026
setup_env.py on MacBook M2 failed Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 58/100

microsoft/BitNet#611 · 1 Kommentar · Erstellt am 14.8.2026
ARM i2_s (1.58-bit) CPU path produces constant output; fix in pinned llama.cpp submodule Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100

microsoft/BitNet#610 · 2 Kommentare · 2 Reaktionen · Erstellt am 11.8.2026
Model Hallucination Occurs again and again. Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 30/100

microsoft/BitNet#609 · Erstellt am 11.8.2026
Current bitnet-b1.58-2B-4T checkpoints contain all-zero MLP weight tensors (model generates garbage) Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 45/100

microsoft/BitNet#608 · 3 Kommentare · Erstellt am 11.8.2026
bitnet-b1.58-2B-4T runs FFN with SiLU instead of relu2 - wrong logits on every backend Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 68/100

microsoft/BitNet#602 · 2 Kommentare · Erstellt am 08.8.2026
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100

microsoft/BitNet#601 · 2 Kommentare · Erstellt am 06.8.2026
BitNet-b1.58-2B-4T produces garbage output on ARM64/NEON (no AVX2) — scalar fallback uses wrong I2_S unpacking scheme Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 45/100

microsoft/BitNet#600 · 5 Kommentare · Erstellt am 05.8.2026
I2_S produces incorrect output on aarch64 Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100

microsoft/BitNet#598 · Erstellt am 03.8.2026
[Windows] Linker error "undefined symbol: quantize_i2_s" when building with -q i2_s or -q tl2 on Windows 11 Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 62/100

microsoft/BitNet#595 · Erstellt am 26.7.2026
[Bug]: BitNet FFN uses SILU instead of ReLU² — perplexity 99.8 vs 17.1 on every CPU backend Offen

Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 30/100

microsoft/BitNet#588 · 7 Kommentare · Erstellt am 19.7.2026
i2_s ARM CPU kernel uses wrong weight-group layout (64/16 vs 128/32) → garbage output on all ARM CPU inference Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 55/100

microsoft/BitNet#585 · 2 Kommentare · Erstellt am 15.7.2026
deosnt compile and run out of the box Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100

microsoft/BitNet#578 · 3 Reaktionen · Erstellt am 28.6.2026
AVX-512 instructions enable denser packing and more efficient lookups. Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100

microsoft/BitNet#569 · 10 Kommentare · Erstellt am 14.6.2026
Here are the current steps for builing BitNet.cpp for Raspberry Pi 5 Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 45/100

microsoft/BitNet#561 · 1 Kommentar · Erstellt am 20.5.2026
Warning: `huggingface-cli` is deprecated and no longer works. Use `hf` instead. Offen

Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 92/100

microsoft/BitNet#560 · 2 Kommentare · Erstellt am 20.5.2026
Debian package with systemd socket activation (bitnet-server) Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 35/100

microsoft/BitNet#557 · Erstellt am 17.5.2026
[Fixed] Native Windows on ARM / Snapdragon X Build Guide & Performance Regression (55+ Tok/s) Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 50/100

microsoft/BitNet#556 · Erstellt am 09.5.2026
Build Fails on Windows 10: CMake Cannot Locate `clang` / `clang++` Compiler Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 52/100

microsoft/BitNet#554 · 1 Kommentar · Erstellt am 30.4.2026
[Bug]: i2_s quantization produces garbage output on x86 CPUs without AVX2 (Missing fallback) Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 48/100

microsoft/BitNet#547 · 6 Kommentare · Erstellt am 18.4.2026
我 Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 1/100

microsoft/BitNet#535 · 1 Kommentar · Erstellt am 07.4.2026
Native binary wire format for ternary weights — NativeTernary Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100

microsoft/BitNet#534 · 2 Kommentare · Erstellt am 07.4.2026
Bug Report: Server crashes after generating first response with Falcon3-10B-Instruct-1.58bit Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 48/100

microsoft/BitNet#532 · 1 Kommentar · Erstellt am 05.4.2026
Feature Request: Official Discord server for BitNet / bitnet.cpp community Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 35/100

microsoft/BitNet#531 · 1 Kommentar · 6 Reaktionen · Erstellt am 04.4.2026
Unsupported param: tools Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 38/100

microsoft/BitNet#530 · Erstellt am 04.4.2026
Open WebUI support Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 42/100

microsoft/BitNet#527 · Erstellt am 03.4.2026
Audit Reports…. Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100

microsoft/BitNet#525 · Erstellt am 03.4.2026
llama-server ignores bitnet-b1.58.rope.freq_base metadata, causing NaN in softmax. llama-cli works correctly. Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 48/100

microsoft/BitNet#517 · 2 Kommentare · Erstellt am 29.3.2026
ggml-model-i2_s.gguf model Question Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100

microsoft/BitNet#515 · 1 Kommentar · Erstellt am 29.3.2026
Windows Compilation Fails: CMake errors in setup_env and missing `const` in ggml-bitnet-mad Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100

microsoft/BitNet#513 · 3 Kommentare · 1 Reaktion · Erstellt am 25.3.2026
Apple Silicon Metal + BLAS segfault for I2_S when ubatch >= 32 routes generic MUL_MAT Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100

microsoft/BitNet#512 · Erstellt am 24.3.2026
Complation error on Fedora release 39 (Thirty Nine) with clang 17.0.6 Offen

Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 68/100

microsoft/BitNet#509 · 1 Kommentar · Erstellt am 23.3.2026
setup_env.py triggers unwanted pip install, causing environment conflicts Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 35/100

microsoft/BitNet#498 · 1 Kommentar · Erstellt am 19.3.2026
[Bug] Windows build fails: CMake logic errors and missing const in ggml-bitnet-mad.cpp Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 55/100

microsoft/BitNet#493 · 1 Kommentar · Erstellt am 18.3.2026
[Bug] Windows build fails with Clang/MSVC due to missing #include <chrono> Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 58/100

microsoft/BitNet#492 · Erstellt am 18.3.2026
官方demo运行正常，本地运行跟个傻子一样，请问怎么回事？ Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100

microsoft/BitNet#490 · Erstellt am 18.3.2026
Windows build fails with Clang/MSVC due to missing #include <chrono> and const pointer type error Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 55/100

microsoft/BitNet#489 · 1 Kommentar · Erstellt am 18.3.2026
The model cannot calc simple math question Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100

microsoft/BitNet#481 · 1 Kommentar · Erstellt am 17.3.2026
I installed it on Ubuntu Linux. Here some common help with that... Offen

Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 58/100

microsoft/BitNet#480 · 10 Kommentare · 6 Reaktionen · Erstellt am 17.3.2026
ARM I2_S inference produces gibberish/garbage output after commit 112f853 (CPU Optimization update) Offen

Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 48/100

microsoft/BitNet#470 · 3 Kommentare · 4 Reaktionen · Erstellt am 15.3.2026
UB in to_float callback for I2_S (missing scale param) + 3 more bugs on ARM Ampere Altra Offen

Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100

microsoft/BitNet#468 · 2 Kommentare · Erstellt am 15.3.2026
getting error in step 2 of installation Offen

Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 35/100

microsoft/BitNet#464 · 2 Kommentare · Erstellt am 14.3.2026

microsoft/BitNet

Neue Issues direkt in Ihr Postfach