google/gemma.cpp

Auf GitHub ansehen

lightweight, standalone C++ inference engine for Google's Gemma models.

Sterne: 7k
Forks: 660
Offene Anfänger-Issues: 0
Indexierte Issues: 29
Ø Merge: 20 Std. 43 Min.
Gemergte PRs (30 T.): 33

Vorherrschende Sprache: C++
Lizenz: Apache-2.0
Letzter GitHub-Push: 23.10.2025
Zuletzt indexiert: 16.9.2026
Beitragsleitfaden: Beitragsleitfaden
Verhaltenskodex: Verhaltenskodex
Anfänger-Labels: good first issue

Offen Alle

Bisher 29 offene Issues indexiert

Add Self-Extend to the gemma.cpp Offen

Feature good first issue stat:awaiting response

google/gemma.cpp#60 · 19 Kommentare · 2 Reaktionen · 1 zugewiesene Person · Indexiert am 16.9.2026
Near-term roadmap Offen

announcement

google/gemma.cpp#164 · 3 Kommentare · 8 Reaktionen · 1 zugewiesene Person · Indexiert am 16.9.2026
Gemma.cpp hangs on a Gemma 7B model that was finetuned using huggingface peft(QLoRA) Offen

Gemma-7b type:performance

google/gemma.cpp#198 · 14 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 16.9.2026
How to convert safetensors into sbs? Offen

google/gemma.cpp#533 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
QAT Models supported? Offen

google/gemma.cpp#543 · 5 Kommentare · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Optimization: Convert Hidden States to Bfloat16 Offen

google/gemma.cpp#560 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Segementation fault in prefill phase using Griffin model Offen

google/gemma.cpp#568 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Getting Error while running paligemma models Offen

google/gemma.cpp#631 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Model's reply is strange Offen

google/gemma.cpp#632 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
hello_world need to get updated Offen

google/gemma.cpp#648 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
T5Gemma support Offen

google/gemma.cpp#661 · 12 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
[User Experience Failure] Impossible to Build and Run on a Resource-Constrained Google Edge Device (Chromebook) Offen

google/gemma.cpp#688 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Abort / Assertion-error when loading gemma-3/gemmaCpp/3.0-1b-it-sfp Offen

google/gemma.cpp#726 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
integrate gemma.cpp for Android Galaxy s24 devices Offen

google/gemma.cpp#758 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Build fails on Linux (GCC 15): SentencePiece missing <cstdint> + Highway avx10.2-512 errors Offen

google/gemma.cpp#778 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Segmentation fault using gemma 3 with --image_file candy.ppm Offen

google/gemma.cpp#817 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Batch mode in GPU Offen

google/gemma.cpp#826 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Showcase / question: a board-proven offline language runtime on ESP32-C3, and whether this points to a more extreme form of language/runtime co-design Offen

google/gemma.cpp#875 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
LLM output regression from #857 building with Emscripten Offen

google/gemma.cpp#885 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Is Gemma4 supported by gemma.cpp? Offen

google/gemma.cpp#887 · 4 Kommentare · 4 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Support TranslateGemma 4B text-only inference (Gemma 3 4B LM-only, no VIT) Offen

google/gemma.cpp#888 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Give a known-good example for https://github.com/google/gemma.cpp/blob/main/API_SERVER_README.md Offen

google/gemma.cpp#911 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Add SmolLM2 support — reuse the Qwen3 converter path? Offen

google/gemma.cpp#982 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
rope_theta is ignored on the dense attention path (hardcoded 10000 / 1000000) Offen

google/gemma.cpp#986 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Feature Request / Proposal: "E12B" (Effective 12B) Model Class for Gemma 5 (Optimized for 12GB VRAM / Desktop Users) Offen

google/gemma.cpp#990 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Add experimental W8A8 MatMul with optional QuaRot-style rotation Offen

google/gemma.cpp#1002 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Reduce KV memory for local-attention layers Offen

google/gemma.cpp#1016 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Default flash attention retains redundant BF16 KV projection history Offen

google/gemma.cpp#1029 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026
Page-size check prevents mmap for blob-aligned checkpoints Offen

google/gemma.cpp#1031 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 16.9.2026

google/gemma.cpp

Neue Issues direkt in Ihr Postfach