google/gemma.cpp

Xem trên GitHub

lightweight, standalone C++ inference engine for Google's Gemma models.

Star: 7k
Fork: 660
Issue cho người mới đang mở: 0
Issue đã lập chỉ mục: 29
Merge trung bình: 20 giờ 43 phút
Pull request đã merge (30 ngày): 33

Ngôn ngữ chính: C++
Giấy phép: Apache-2.0
Lần push lên GitHub gần nhất: 23/10/2025
Lập chỉ mục gần nhất: 16/9/2026
Hướng dẫn đóng góp: Hướng dẫn đóng góp
Quy tắc ứng xử: Quy tắc ứng xử
Label cho người mới: good first issue

Đang mở Tất cả

Đã lập chỉ mục 29 issue đang mở

Add Self-Extend to the gemma.cpp Đang mở

Feature good first issue stat:awaiting response

google/gemma.cpp#60 · 19 bình luận · 2 reaction · 1 người được giao · Lập chỉ mục 16/9/2026
Near-term roadmap Đang mở

announcement

google/gemma.cpp#164 · 3 bình luận · 8 reaction · 1 người được giao · Lập chỉ mục 16/9/2026
Gemma.cpp hangs on a Gemma 7B model that was finetuned using huggingface peft(QLoRA) Đang mở

Gemma-7b type:performance

google/gemma.cpp#198 · 14 bình luận · 0 reaction · 1 người được giao · Lập chỉ mục 16/9/2026
How to convert safetensors into sbs? Đang mở

google/gemma.cpp#533 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
QAT Models supported? Đang mở

google/gemma.cpp#543 · 5 bình luận · 2 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Optimization: Convert Hidden States to Bfloat16 Đang mở

google/gemma.cpp#560 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Segementation fault in prefill phase using Griffin model Đang mở

google/gemma.cpp#568 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Getting Error while running paligemma models Đang mở

google/gemma.cpp#631 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Model's reply is strange Đang mở

google/gemma.cpp#632 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
hello_world need to get updated Đang mở

google/gemma.cpp#648 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
T5Gemma support Đang mở

google/gemma.cpp#661 · 12 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
[User Experience Failure] Impossible to Build and Run on a Resource-Constrained Google Edge Device (Chromebook) Đang mở

google/gemma.cpp#688 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Abort / Assertion-error when loading gemma-3/gemmaCpp/3.0-1b-it-sfp Đang mở

google/gemma.cpp#726 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
integrate gemma.cpp for Android Galaxy s24 devices Đang mở

google/gemma.cpp#758 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Build fails on Linux (GCC 15): SentencePiece missing <cstdint> + Highway avx10.2-512 errors Đang mở

google/gemma.cpp#778 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Segmentation fault using gemma 3 with --image_file candy.ppm Đang mở

google/gemma.cpp#817 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Batch mode in GPU Đang mở

google/gemma.cpp#826 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Showcase / question: a board-proven offline language runtime on ESP32-C3, and whether this points to a more extreme form of language/runtime co-design Đang mở

google/gemma.cpp#875 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
LLM output regression from #857 building with Emscripten Đang mở

google/gemma.cpp#885 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Is Gemma4 supported by gemma.cpp? Đang mở

google/gemma.cpp#887 · 4 bình luận · 4 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Support TranslateGemma 4B text-only inference (Gemma 3 4B LM-only, no VIT) Đang mở

google/gemma.cpp#888 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Give a known-good example for https://github.com/google/gemma.cpp/blob/main/API_SERVER_README.md Đang mở

google/gemma.cpp#911 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Add SmolLM2 support — reuse the Qwen3 converter path? Đang mở

google/gemma.cpp#982 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
rope_theta is ignored on the dense attention path (hardcoded 10000 / 1000000) Đang mở

google/gemma.cpp#986 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Feature Request / Proposal: "E12B" (Effective 12B) Model Class for Gemma 5 (Optimized for 12GB VRAM / Desktop Users) Đang mở

google/gemma.cpp#990 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Add experimental W8A8 MatMul with optional QuaRot-style rotation Đang mở

google/gemma.cpp#1002 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Reduce KV memory for local-attention layers Đang mở

google/gemma.cpp#1016 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Default flash attention retains redundant BF16 KV projection history Đang mở

google/gemma.cpp#1029 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026
Page-size check prevents mmap for blob-aligned checkpoints Đang mở

google/gemma.cpp#1031 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 16/9/2026

google/gemma.cpp

Nhận issue mới trong hộp thư của bạn