Chủ sở hữu

abetlen

Đã lập chỉ mục 4 kho mã nguồn · Xem trên GitHub

ggml-python
Python bindings for ggml

Python · 152 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 star

Đang mở Tất cả

Đã lập chỉ mục 568 issue đang mở

Not sure if it's a bug or a configuration error... Đang mở

abetlen/llama-cpp-python#1555 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
"llama.cpp error: 'error loading model architecture: unknown model architecture: 'deepseek2' Đang mở

abetlen/llama-cpp-python#1556 · 12 bình luận · 4 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
tool_call function "name" has incorrect format so function calling does not work for functionary Đang mở

abetlen/llama-cpp-python#1560 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Switch to disable adding BOS token Đang mở

abetlen/llama-cpp-python#1561 · 1 bình luận · 2 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add MiniCPM-Llama3-V-2_5 to supported multi-modal models Đang mở

abetlen/llama-cpp-python#1564 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Pyinstaller Cannot Find File After Compiling Đang mở

abetlen/llama-cpp-python#1565 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
BUG: import error or execute error (NULL pointer access) for the latest prebuilt version `v0.2.81` Đang mở

abetlen/llama-cpp-python#1571 · 8 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
build error for version 0.2.81 and 0.2.80 Đang mở

abetlen/llama-cpp-python#1573 · 11 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
The new shared library causes conflicts if more than 1 variant of llama-cpp-python is imported Đang mở

abetlen/llama-cpp-python#1575 · 10 bình luận · 5 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
System role not supported Gemma 2 Đang mở

abetlen/llama-cpp-python#1580 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Trying to load llm model using llama cpp python with GPU support fails with an OSError: exception: access violation reading 0x0000000000000000 Đang mở

abetlen/llama-cpp-python#1581 · 21 bình luận · 5 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
unsupported Microsoft Visual Studio version Đang mở

abetlen/llama-cpp-python#1586 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Cannot run T5-based models Đang mở

abetlen/llama-cpp-python#1587 · 18 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
GPU acceleration gives gibberish output and breaks string grammars Đang mở

abetlen/llama-cpp-python#1593 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Windows - OpenBLAS (CPU) - Could NOT find BLAS (missing: BLAS_LIBRARIES) Đang mở

bug

abetlen/llama-cpp-python#1595 · 1 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Gemma 2 : flash_attn is not compatible with attn_soft_cap - forcing off Đang mở

abetlen/llama-cpp-python#1598 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Load time in the log is much different from real load model time? Đang mở

abetlen/llama-cpp-python#1601 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
streaming not working Đang mở

abetlen/llama-cpp-python#1604 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Gemma-2 with Temperature=0 gives different output Đang mở

abetlen/llama-cpp-python#1606 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Pull from Ollama repo functionality Đang mở

enhancement

abetlen/llama-cpp-python#1607 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
destructor llama error: TypeError: 'NoneType' object is not callable Đang mở

abetlen/llama-cpp-python#1610 · 11 bình luận · 3 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add support for croos-encoders Đang mở

enhancement

abetlen/llama-cpp-python#1611 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ERROR: Failed building wheel for llama-cpp-python for SYCL installation on Windows Đang mở

bug

abetlen/llama-cpp-python#1614 · 12 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Build fail for version from 0.2.80 to 0.2.83 Đang mở

bug

abetlen/llama-cpp-python#1616 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ERROR: Could not build wheels for llama-cpp-python Đang mở

bug

abetlen/llama-cpp-python#1617 · 19 bình luận · 9 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Feat: Add support for Llama 3.1 function calling Đang mở

enhancement

abetlen/llama-cpp-python#1618 · 3 bình luận · 21 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
llama-cpp-python CMake,Failed building wheel for llama-cpp-python error on windows 11 pro Đang mở

bug

abetlen/llama-cpp-python#1619 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
can not install llama-cpp-python Đang mở

bug

abetlen/llama-cpp-python#1621 · 1 bình luận · 10 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Not able to Install with cuda support in Bento Đang mở

bug

abetlen/llama-cpp-python#1622 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CUDA error: unspecified launch failure on inference on Nvidia V100 GPUs Đang mở

bug

abetlen/llama-cpp-python#1624 · 5 bình luận · 4 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
All requests end with 'finish_reason': 'length' when the max_tokens=-1 parameter is set. Đang mở

bug

abetlen/llama-cpp-python#1645 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
create_chat_completion is stuck in versions 0.2.84 and 0.2.85 for Mac Silicon Đang mở

bug

abetlen/llama-cpp-python#1648 · 6 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Installing the pre-built v0.2.85 – v0.3.0 Metal wheels for Python 3.9 – 3.12 yields `Bad magic number for file header` Đang mở

bug

abetlen/llama-cpp-python#1650 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
pip install llama-cpp-python on anaconda Đang mở

bug

abetlen/llama-cpp-python#1654 · 8 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Error When Loading Model with llama_cpp: [WinError -1073741795] Windows Error 0xc000001d Đang mở

bug

abetlen/llama-cpp-python#1660 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
High CPU Usage, very slow performance, with flash_attn=true on ROCM 6.1.2 Đang mở

bug

abetlen/llama-cpp-python#1661 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Wheel build showing error of cmake suddenly - building version 0.2.76 on windows Đang mở

abetlen/llama-cpp-python#1664 · 6 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
error: no matching function for call to 'ggml_group_norm' Đang mở

abetlen/llama-cpp-python#1665 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Model path does not exist: path/to/llama-2/llama-model.gguf Đang mở

abetlen/llama-cpp-python#1672 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
How to improve GPU utilization Đang mở

abetlen/llama-cpp-python#1674 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add support T5 (encode-decoder) models at API level and server Đang mở

enhancement

abetlen/llama-cpp-python#1681 · 0 bình luận · 9 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
0.2.88 fails to build: error: invalid operands to binary expression, etc Đang mở

abetlen/llama-cpp-python#1683 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Problem with v0.2.88 Đang mở

bug

abetlen/llama-cpp-python#1684 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Failed to load shared library 'E:\anaconda\envs\xinference\lib\site-packages\llama_cpp\lib\llama.dll' Đang mở

abetlen/llama-cpp-python#1685 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CUDA not supported. `ValueError: Attempt to split tensors that exceed maximum supported devices. Current LLAMA_MAX_DEVICES=1` Đang mở

abetlen/llama-cpp-python#1692 · 1 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CUDA unsupported, installation bypasses CUDA at all Đang mở

abetlen/llama-cpp-python#1693 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
D:\a\llama-cpp-python\llama-cpp-python\vendor\llama.cpp\ggml\src\ggml.c:6399: GGML_ASSERT(c->ne[0] >= n_dims / 2) failed Đang mở

abetlen/llama-cpp-python#1694 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
get hidden state Đang mở

question

abetlen/llama-cpp-python#1695 · 0 bình luận · 2 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Empty output when running Q4_K_M quantization of Llama-3-8B-Instruct with llama-cpp-python Đang mở

abetlen/llama-cpp-python#1696 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Feature request : NPU Support Đang mở

abetlen/llama-cpp-python#1702 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026

abetlen

Nhận issue mới trong hộp thư của bạn