google/gemma.cpp

在 GitHub 查看

lightweight, standalone C++ inference engine for Google's Gemma models.

星标: 7k
派生: 660
开放的新手 issue: 0
已索引 issue: 29
平均合并: 20 小时 43 分钟
30 天内合并 PR: 33

主要语言: C++
许可证: Apache-2.0
最近 GitHub push: 2025年10月23日
最近索引: 2026年9月16日
贡献指南: 贡献指南
行为准则: 行为准则
新手标签: good first issue

未关闭全部

目前已索引 29 个未关闭的 Issue

Add Self-Extend to the gemma.cpp 未关闭

Feature good first issue stat:awaiting response

google/gemma.cpp#60 · 19 条评论 · 2 个 reaction · 已指派 1 人 · 索引于 2026年9月16日
Near-term roadmap 未关闭

announcement

google/gemma.cpp#164 · 3 条评论 · 8 个 reaction · 已指派 1 人 · 索引于 2026年9月16日
Gemma.cpp hangs on a Gemma 7B model that was finetuned using huggingface peft(QLoRA) 未关闭

Gemma-7b type:performance

google/gemma.cpp#198 · 14 条评论 · 0 个 reaction · 已指派 1 人 · 索引于 2026年9月16日
How to convert safetensors into sbs? 未关闭

google/gemma.cpp#533 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
QAT Models supported? 未关闭

google/gemma.cpp#543 · 5 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Optimization: Convert Hidden States to Bfloat16 未关闭

google/gemma.cpp#560 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Segementation fault in prefill phase using Griffin model 未关闭

google/gemma.cpp#568 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Getting Error while running paligemma models 未关闭

google/gemma.cpp#631 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Model's reply is strange 未关闭

google/gemma.cpp#632 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
hello_world need to get updated 未关闭

google/gemma.cpp#648 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
T5Gemma support 未关闭

google/gemma.cpp#661 · 12 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
[User Experience Failure] Impossible to Build and Run on a Resource-Constrained Google Edge Device (Chromebook) 未关闭

google/gemma.cpp#688 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Abort / Assertion-error when loading gemma-3/gemmaCpp/3.0-1b-it-sfp 未关闭

google/gemma.cpp#726 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
integrate gemma.cpp for Android Galaxy s24 devices 未关闭

google/gemma.cpp#758 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Build fails on Linux (GCC 15): SentencePiece missing <cstdint> + Highway avx10.2-512 errors 未关闭

google/gemma.cpp#778 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Segmentation fault using gemma 3 with --image_file candy.ppm 未关闭

google/gemma.cpp#817 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Batch mode in GPU 未关闭

google/gemma.cpp#826 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Showcase / question: a board-proven offline language runtime on ESP32-C3, and whether this points to a more extreme form of language/runtime co-design 未关闭

google/gemma.cpp#875 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
LLM output regression from #857 building with Emscripten 未关闭

google/gemma.cpp#885 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Is Gemma4 supported by gemma.cpp? 未关闭

google/gemma.cpp#887 · 4 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Support TranslateGemma 4B text-only inference (Gemma 3 4B LM-only, no VIT) 未关闭

google/gemma.cpp#888 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Give a known-good example for https://github.com/google/gemma.cpp/blob/main/API_SERVER_README.md 未关闭

google/gemma.cpp#911 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Add SmolLM2 support — reuse the Qwen3 converter path? 未关闭

google/gemma.cpp#982 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
rope_theta is ignored on the dense attention path (hardcoded 10000 / 1000000) 未关闭

google/gemma.cpp#986 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Feature Request / Proposal: "E12B" (Effective 12B) Model Class for Gemma 5 (Optimized for 12GB VRAM / Desktop Users) 未关闭

google/gemma.cpp#990 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Add experimental W8A8 MatMul with optional QuaRot-style rotation 未关闭

google/gemma.cpp#1002 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Reduce KV memory for local-attention layers 未关闭

google/gemma.cpp#1016 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Default flash attention retains redundant BF16 KV projection history 未关闭

google/gemma.cpp#1029 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日
Page-size check prevents mmap for blob-aligned checkpoints 未关闭

google/gemma.cpp#1031 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月16日

google/gemma.cpp

把新 issue 发到你的邮箱