ggml-org/llama.cpp

GitHub で見る

LLM inference in C/C++

スター: 129k
フォーク: 23.5k
オープンの初心者向け issue: 40
索引済み issue: 944
平均マージ: 2日 10時間
マージ済み PR（30日）: 409

主要言語: C++
ライセンス: MIT
最終 GitHub push: 2026年9月20日
最新の索引: 2026年9月16日
コントリビューションガイド: コントリビューションガイド
行動規範: 行動規範がありません
初心者向けラベル: help wanted good first issue

初心者向けすべて

オープンすべて

オープンの issue を 897 件索引しました

Eval bug: SIGSEGV in token-counting routes when the request arrives while the server is sleeping (stale vocab/mctx captured before the wake barrier) オープン

難易度 2/5 1〜3時間初心者へのやさしさ 86/100

ggml-org/llama.cpp#29188 · 2026年9月20日に作成
[SYCL] DeltaNet kernel produces token soup on long prompts (Qwen3.6, Qwen3.8, Nemotron) オープン

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29183 · 2026年9月20日に作成
Misc. bug: pyproject.toml: uv sync fails on macOS due to unconditional PyTorch CPU index オープン

bug-unconfirmed

難易度 1/5 1時間未満初心者へのやさしさ 90/100

ggml-org/llama.cpp#29176 · 2026年9月20日に作成
llama-server: one prefill chunk blocks decode for all sequences — co-tenant stalls = ceil(prompt/n_batch), so `-b = n_parallel x -ub` maximises them オープン

難易度 5/5 1週間以上初心者へのやさしさ 38/100

ggml-org/llama.cpp#29175 · 2026年9月20日に作成
Eval bug: Qwen3.8-Flash-Next MTP draft GGUFs fail to load on b11058 (tensor not found) — no MTP path on Pascal オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29174 · コメント 1 件 · 2026年9月20日に作成
Eval bug: CUDA decode+prefill collapse at deep KV position on qwen35 hybrid (~5.5x tg, ~21x pp at d154855) オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ggml-org/llama.cpp#29172 · 2026年9月20日に作成
Eval bug: CUDA MoE weighted-reduction fusion (#25952) breaks speculative-decoding exactness — MTP draft acceptance 0.82 → 0.48 and MTP becomes a net slowdown (bisected to b10751) オープン

難易度 4/5 3〜5日初心者へのやさしさ 50/100

ggml-org/llama.cpp#29168 · 2026年9月20日に作成
[SYCL] Gated DeltaNet produces token soup on long prompts (greedy fails, dense models fine to 131K+) オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

ggml-org/llama.cpp#29167 · コメント 1 件 · 2026年9月20日に作成
Misc. bug: Model loads into mobile GPU CUDA0, but inference happens on iGPU オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29164 · コメント 2 件 · 2026年9月19日に作成
Misc. bug: interrupted connection trashes KV cache オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29163 · 2026年9月19日に作成
/v1/responses: reasoning item with "summary": null rejected as "Cannot determine type of 'item'" オープン

難易度 2/5 1〜3時間初心者へのやさしさ 78/100

ggml-org/llama.cpp#29159 · コメント 1 件 · 2026年9月19日に作成
Eval bug: ubatch size leads to freezing of GPU+eGPU setup オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 38/100

ggml-org/llama.cpp#29154 · 2026年9月19日に作成
Eval bug: qwen4exp (Qwen3.8-Flash-Next) livelocks during model load on HIP; identical config loads on Vulkan オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

ggml-org/llama.cpp#29149 · 2026年9月19日に作成
Eval bug: Qwen 3.8 Flash Next MTP fails to load オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29148 · コメント 1 件 · 2026年9月19日に作成
Qwen 3.5 MTP fails to load compact draft vocabularies (missing d2t mapping support) オープン

難易度 4/5 3〜5日初心者へのやさしさ 15/100

ggml-org/llama.cpp#29145 · 2026年9月19日に作成
Eval bug: hardcoded 32GB VMM pool reservation (cuMemAddressReserve) fails on Jetson Orin iGPU — all multimodal image requests crash オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29142 · コメント 1 件 · 2026年9月19日に作成
Misc. bug: ggml-rpc-server crashes on vulkan when a duplicate copy of libggml-vulkan is dlopened オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29138 · 2026年9月19日に作成
Misc. bug: RISC-V RVV IQ4_NL/MXFP4 dot product errors with an odd number of blocks due to missing tail handling オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 62/100

ggml-org/llama.cpp#29131 · 2026年9月19日に作成
Feature Request: Slow prompt processing when MoE experts are read from disk via mmap - an optimization using O_DIRECT オープン

enhancement

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ggml-org/llama.cpp#29130 · コメント 2 件 · 2026年9月19日に作成
Feature Request: Video with audio support オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

ggml-org/llama.cpp#29129 · 2026年9月19日に作成
Misc. bug: LoRA loader accepts a MoE expert-count mismatch, causing an OOB write in CPU MUL_MAT_ID オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 68/100

ggml-org/llama.cpp#29128 · 2026年9月19日に作成
Eval bug: can not run models オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 30/100

ggml-org/llama.cpp#29119 · コメント 1 件 · リアクション 1 件 · 2026年9月19日に作成
Misc. bug: /props publishes the randomized media_marker, defeating PR #21962's collision defense オープン

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29118 · 2026年9月19日に作成
Eval bug: server silently stops processing when /metrics endpoint is scraped by VictoriaMetrics オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29104 · コメント 1 件 · 2026年9月18日に作成
Misc. bug: Two llama-server processes on the same RX 6800 cause 100% GPU when HIP graphs enabled オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 50/100

ggml-org/llama.cpp#29098 · 2026年9月18日に作成
Eval bug: Vulkan qwen4exp Image Multimodality Seems Broken オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 45/100

ggml-org/llama.cpp#29093 · コメント 1 件 · 2026年9月18日に作成
HIP/ROCm — fused Gated Delta Net op carries recurrent state across requests on a reused server slot (qwen35 / qwen35moe); earlier prompts' text is emitted verbatim in later completions オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29092 · コメント 7 件 · 2026年9月18日に作成
Misc. bug: [llama-server] /v1/models metadata serializes "vocab_type" as boolean true instead of integer enum オープン

bug-unconfirmed

難易度 3/5 1〜2日初心者へのやさしさ 68/100

ggml-org/llama.cpp#29091 · コメント 4 件 · 2026年9月18日に作成
Eval bug: init_batch: failed to prepare attention ubatches with --kv-unified on serveur オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 42/100

ggml-org/llama.cpp#29090 · 2026年9月18日に作成
Misc. bug: [convert_hf_to_gguf] KeyError: 'speaker_encoder_config' when converting Qwen3-TTS CustomVoice variant オープン

bug-unconfirmed

難易度 2/5 1〜3時間初心者へのやさしさ 78/100

ggml-org/llama.cpp#29088 · 2026年9月18日に作成
Eval bug: OpenVINO backend fails with "unable to create context" when KV cache exceeds CL_DEVICE_MAX_MEM_ALLOC_SIZE オープン

bug-unconfirmed

難易度 2/5 1〜3時間初心者へのやさしさ 74/100

ggml-org/llama.cpp#29087 · 2026年9月18日に作成
Eval bug: [Vulkan] GGML_ABORT cache_k_l0 in Vulkan buffer on SWA models — regression 2.40/2.41 vs 2.39 オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 55/100

ggml-org/llama.cpp#29082 · コメント 1 件 · 2026年9月18日に作成
Eval bug: [OpenCL] MUL_MAT produces wrong results on Adreno 730 (x8_gqa_r4_img) オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 62/100

ggml-org/llama.cpp#29081 · 2026年9月18日に作成
convert_hf_to_gguf.py: very large models need either the full model in RAM or 2x its size on disk (streaming two-pass mode?) オープン

難易度 5/5 1週間以上初心者へのやさしさ 48/100

ggml-org/llama.cpp#29078 · コメント 3 件 · 2026年9月18日に作成
Feature Request: Passing environment variables to child processes in router mode オープン

enhancement

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ggml-org/llama.cpp#29073 · コメント 1 件 · 2026年9月18日に作成
Eval bug: VRAM usage increased from b10680 (SYCL backend) オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ggml-org/llama.cpp#29063 · コメント 3 件 · リアクション 1 件 · 2026年9月18日に作成
Feature Request: Edge0 support and also direct safetensors オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

ggml-org/llama.cpp#29061 · 2026年9月18日に作成
Feature Request: Support Prism PQ2_0 (GGML type 142) and PTQ1_0 (type 143) used by Ternary-Bonsai-2 オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 35/100

ggml-org/llama.cpp#29058 · コメント 3 件 · リアクション 17 件 · 2026年9月18日に作成
Vulkan: deterministic GPU hang + SIGABRT on Intel Gen9.5 iGPU (UHD 630) with q8_0 KV cache — vk::Error escapes as std::terminate オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

ggml-org/llama.cpp#29054 · コメント 1 件 · 2026年9月17日に作成
Feature Request: Include preferred citation in the readme オープン

enhancement

難易度 1/5 1時間未満初心者へのやさしさ 85/100

ggml-org/llama.cpp#29049 · コメント 1 件 · 2026年9月17日に作成
Feature Request: Make HIP and CUDA crash compilation オープン

enhancement

難易度 3/5 1〜2日初心者へのやさしさ 58/100

ggml-org/llama.cpp#29048 · 2026年9月17日に作成
iSWA: seq_pos_max answers from the sliding cache, so a batch without positions lands at 0 after a partial seq_rm and leaks base-cache cells オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ggml-org/llama.cpp#29045 · コメント 2 件 · 2026年9月17日に作成
Eval bug: draft-mtp draft model fails to load with -ngl (vector::_M_range_check 1 >= 1); explicit -ts fixes it — likely NaN split when device reports 0 free オープン

難易度 3/5 1〜2日初心者へのやさしさ 68/100

ggml-org/llama.cpp#29044 · 2026年9月17日に作成
Misc. bug: Vulkan flash_attn.comp writes past the end of Qf in the quantized (MMQ) path オープン

bug-unconfirmed

難易度 2/5 1〜3時間初心者へのやさしさ 78/100

ggml-org/llama.cpp#29039 · 2026年9月17日に作成
Misc. bug: UI Bug. Сhat message box grows above the top of the window on the empty chat screen (regression in b10824) オープン

bug-unconfirmed

難易度 2/5 1〜3時間初心者へのやさしさ 88/100

ggml-org/llama.cpp#29023 · 2026年9月17日に作成
Feature Request: Fast Tool Gating & Single-Pass Selection via Prefill Logit Slicing オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 28/100

ggml-org/llama.cpp#29022 · コメント 4 件 · リアクション 2 件 · 2026年9月17日に作成
Eval bug: Gemma 4 E4B hangs during model loading with Vulkan GPU offload オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29021 · 2026年9月17日に作成
Misc. bug: Significant generation throughput drop when `presence_penalty > 0` with MTP enabled オープン

bug-unconfirmed

難易度 4/5 3〜5日初心者へのやさしさ 52/100

ggml-org/llama.cpp#29017 · 2026年9月17日に作成
Feature Request: MoE Browser Experts オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

ggml-org/llama.cpp#29011 · 2026年9月17日に作成
GLM-5.3 (glm_moe_dsa) emits repeated '@' tokens instead of a response on CPU (ngl=0) オープン

難易度 4/5 3〜5日初心者へのやさしさ 48/100

ggml-org/llama.cpp#29010 · 2026年9月17日に作成

ggml-org/llama.cpp

新しい issue をメールで受け取る