microsoft/BitNet

Vedi su GitHub

Official inference framework for 1-bit LLMs

Stelle: 40.3k
Fork: 3.7k
Issue aperte per principianti: 1
Issue indicizzate: 211

Lingua principale: C++
Licenza: MIT
Ultimo push su GitHub: 27/7/2026
Ultima indicizzazione: 19/9/2026
Guida per i contributori: Nessuna guida per i contributori
Codice di condotta: Codice di condotta
Label per principianti: Nessuna label per principianti indicizzata
Metriche di merge delle PR: Nessuna PR unita negli ultimi 30g

Adatte ai principianti Tutto

Aperta Tutte

211 issue aperte indicizzate

build/bin/llama-cli throws SIGSEGV, Segmentation fault when using a TL2 GGUF model Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100

microsoft/BitNet#631 · 2 commenti · Aperta il 16/9/2026
Verify evals on Papers with Code Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 55/100

microsoft/BitNet#630 · Aperta il 14/9/2026
Latent int16 overflow in ggml_vec_dot_i2_i8_s_1x1: 128 maddubs results per lane against a 32767 ceiling Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 56/100

microsoft/BitNet#629 · 5 commenti · Aperta il 13/9/2026
i2_s AVX2 GEMM folds the int16 accumulator 10x more often than its own bound requires (7.5% measured) Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

microsoft/BitNet#628 · 1 commento · Aperta il 13/9/2026
Regression: Falcon-E models cannot be loaded — "unknown pre-tokenizer type: 'falcon_e'" (support added in #268 was lost in the llama.cpp submodule update) Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

microsoft/BitNet#622 · Aperta il 6/9/2026
convert-hf-to-gguf-bitnet.py --outtype i2_s silently writes F16 (not I2_S) for LlamaForCausalLM BitNet checkpoints (Falcon3 / Falcon-E 1.58bit) Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 76/100

microsoft/BitNet#621 · Aperta il 6/9/2026
README "Convert from .safetensors" flow is broken: convert-ms-to-gguf-bitnet.py KeyError MODEL_ARCH.BITNET_25, and llama-quantize has no I2_S ftype (setup_env.py i2_s conversion path also affected) Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

microsoft/BitNet#619 · Aperta il 5/9/2026
ggml-cpu.c: `src1_cont` undeclared → build fails on ARM CPUs with i8mm (Apple M2/M3/M4, Graviton3, ...) Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100

microsoft/BitNet#618 · 1 commento · Aperta il 5/9/2026
[Bug]: I2_S GEMM fast path produces garbage for multi-token prompts on AVX-only CPUs Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 68/100

microsoft/BitNet#617 · 1 commento · Aperta il 26/8/2026
setup_env.py on MacBook M2 failed Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100

microsoft/BitNet#611 · 1 commento · Aperta il 14/8/2026
ARM i2_s (1.58-bit) CPU path produces constant output; fix in pinned llama.cpp submodule Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

microsoft/BitNet#610 · 2 commenti · 2 reazioni · Aperta il 11/8/2026
Model Hallucination Occurs again and again. Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100

microsoft/BitNet#609 · Aperta il 11/8/2026
Current bitnet-b1.58-2B-4T checkpoints contain all-zero MLP weight tensors (model generates garbage) Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

microsoft/BitNet#608 · 3 commenti · Aperta il 11/8/2026
bitnet-b1.58-2B-4T runs FFN with SiLU instead of relu2 - wrong logits on every backend Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 68/100

microsoft/BitNet#602 · 2 commenti · Aperta il 8/8/2026
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100

microsoft/BitNet#601 · 2 commenti · Aperta il 6/8/2026
BitNet-b1.58-2B-4T produces garbage output on ARM64/NEON (no AVX2) — scalar fallback uses wrong I2_S unpacking scheme Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

microsoft/BitNet#600 · 5 commenti · Aperta il 5/8/2026
I2_S produces incorrect output on aarch64 Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100

microsoft/BitNet#598 · Aperta il 3/8/2026
[Windows] Linker error "undefined symbol: quantize_i2_s" when building with -q i2_s or -q tl2 on Windows 11 Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 62/100

microsoft/BitNet#595 · Aperta il 26/7/2026
[Bug]: BitNet FFN uses SILU instead of ReLU² — perplexity 99.8 vs 17.1 on every CPU backend Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 30/100

microsoft/BitNet#588 · 7 commenti · Aperta il 19/7/2026
i2_s ARM CPU kernel uses wrong weight-group layout (64/16 vs 128/32) → garbage output on all ARM CPU inference Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

microsoft/BitNet#585 · 2 commenti · Aperta il 15/7/2026
deosnt compile and run out of the box Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100

microsoft/BitNet#578 · 3 reazioni · Aperta il 28/6/2026
AVX-512 instructions enable denser packing and more efficient lookups. Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100

microsoft/BitNet#569 · 10 commenti · Aperta il 14/6/2026
Here are the current steps for builing BitNet.cpp for Raspberry Pi 5 Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100

microsoft/BitNet#561 · 1 commento · Aperta il 20/5/2026
Warning: `huggingface-cli` is deprecated and no longer works. Use `hf` instead. Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 92/100

microsoft/BitNet#560 · 2 commenti · Aperta il 20/5/2026
Debian package with systemd socket activation (bitnet-server) Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 35/100

microsoft/BitNet#557 · Aperta il 17/5/2026
[Fixed] Native Windows on ARM / Snapdragon X Build Guide & Performance Regression (55+ Tok/s) Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 50/100

microsoft/BitNet#556 · Aperta il 9/5/2026
Build Fails on Windows 10: CMake Cannot Locate `clang` / `clang++` Compiler Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 52/100

microsoft/BitNet#554 · 1 commento · Aperta il 30/4/2026
[Bug]: i2_s quantization produces garbage output on x86 CPUs without AVX2 (Missing fallback) Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

microsoft/BitNet#547 · 6 commenti · Aperta il 18/4/2026
我 Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 1/100

microsoft/BitNet#535 · 1 commento · Aperta il 7/4/2026
Native binary wire format for ternary weights — NativeTernary Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

microsoft/BitNet#534 · 2 commenti · Aperta il 7/4/2026
Bug Report: Server crashes after generating first response with Falcon3-10B-Instruct-1.58bit Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

microsoft/BitNet#532 · 1 commento · Aperta il 5/4/2026
Feature Request: Official Discord server for BitNet / bitnet.cpp community Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

microsoft/BitNet#531 · 1 commento · 6 reazioni · Aperta il 4/4/2026
Unsupported param: tools Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 38/100

microsoft/BitNet#530 · Aperta il 4/4/2026
Open WebUI support Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100

microsoft/BitNet#527 · Aperta il 3/4/2026
Audit Reports…. Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

microsoft/BitNet#525 · Aperta il 3/4/2026
llama-server ignores bitnet-b1.58.rope.freq_base metadata, causing NaN in softmax. llama-cli works correctly. Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

microsoft/BitNet#517 · 2 commenti · Aperta il 29/3/2026
ggml-model-i2_s.gguf model Question Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

microsoft/BitNet#515 · 1 commento · Aperta il 29/3/2026
Windows Compilation Fails: CMake errors in setup_env and missing `const` in ggml-bitnet-mad Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100

microsoft/BitNet#513 · 3 commenti · 1 reazione · Aperta il 25/3/2026
Apple Silicon Metal + BLAS segfault for I2_S when ubatch >= 32 routes generic MUL_MAT Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100

microsoft/BitNet#512 · Aperta il 24/3/2026
Complation error on Fedora release 39 (Thirty Nine) with clang 17.0.6 Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 68/100

microsoft/BitNet#509 · 1 commento · Aperta il 23/3/2026
setup_env.py triggers unwanted pip install, causing environment conflicts Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100

microsoft/BitNet#498 · 1 commento · Aperta il 19/3/2026
[Bug] Windows build fails: CMake logic errors and missing const in ggml-bitnet-mad.cpp Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 55/100

microsoft/BitNet#493 · 1 commento · Aperta il 18/3/2026
[Bug] Windows build fails with Clang/MSVC due to missing #include <chrono> Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100

microsoft/BitNet#492 · Aperta il 18/3/2026
官方demo运行正常，本地运行跟个傻子一样，请问怎么回事？ Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100

microsoft/BitNet#490 · Aperta il 18/3/2026
Windows build fails with Clang/MSVC due to missing #include <chrono> and const pointer type error Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100

microsoft/BitNet#489 · 1 commento · Aperta il 18/3/2026
The model cannot calc simple math question Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100

microsoft/BitNet#481 · 1 commento · Aperta il 17/3/2026
I installed it on Ubuntu Linux. Here some common help with that... Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 58/100

microsoft/BitNet#480 · 10 commenti · 6 reazioni · Aperta il 17/3/2026
ARM I2_S inference produces gibberish/garbage output after commit 112f853 (CPU Optimization update) Aperta

Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

microsoft/BitNet#470 · 3 commenti · 4 reazioni · Aperta il 15/3/2026
UB in to_float callback for I2_S (missing scale param) + 3 more bugs on ARM Ampere Altra Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100

microsoft/BitNet#468 · 2 commenti · Aperta il 15/3/2026
getting error in step 2 of installation Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100

microsoft/BitNet#464 · 2 commenti · Aperta il 14/3/2026

microsoft/BitNet

Ricevi le nuove issue nella tua casella