Owner

abetlen

已索引 4 个仓库 · 在 GitHub 查看

ggml-python
Python bindings for ggml

Python · 152 个 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 个 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 个 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 个 star

未关闭全部

目前已索引 568 个未关闭的 Issue

Not sure if it's a bug or a configuration error... 未关闭

abetlen/llama-cpp-python#1555 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
"llama.cpp error: 'error loading model architecture: unknown model architecture: 'deepseek2' 未关闭

abetlen/llama-cpp-python#1556 · 12 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
tool_call function "name" has incorrect format so function calling does not work for functionary 未关闭

abetlen/llama-cpp-python#1560 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Switch to disable adding BOS token 未关闭

abetlen/llama-cpp-python#1561 · 1 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add MiniCPM-Llama3-V-2_5 to supported multi-modal models 未关闭

abetlen/llama-cpp-python#1564 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Pyinstaller Cannot Find File After Compiling 未关闭

abetlen/llama-cpp-python#1565 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
BUG: import error or execute error (NULL pointer access) for the latest prebuilt version `v0.2.81` 未关闭

abetlen/llama-cpp-python#1571 · 8 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
build error for version 0.2.81 and 0.2.80 未关闭

abetlen/llama-cpp-python#1573 · 11 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
The new shared library causes conflicts if more than 1 variant of llama-cpp-python is imported 未关闭

abetlen/llama-cpp-python#1575 · 10 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
System role not supported Gemma 2 未关闭

abetlen/llama-cpp-python#1580 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Trying to load llm model using llama cpp python with GPU support fails with an OSError: exception: access violation reading 0x0000000000000000 未关闭

abetlen/llama-cpp-python#1581 · 21 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
unsupported Microsoft Visual Studio version 未关闭

abetlen/llama-cpp-python#1586 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Cannot run T5-based models 未关闭

abetlen/llama-cpp-python#1587 · 18 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
GPU acceleration gives gibberish output and breaks string grammars 未关闭

abetlen/llama-cpp-python#1593 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Windows - OpenBLAS (CPU) - Could NOT find BLAS (missing: BLAS_LIBRARIES) 未关闭

bug

abetlen/llama-cpp-python#1595 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Gemma 2 : flash_attn is not compatible with attn_soft_cap - forcing off 未关闭

abetlen/llama-cpp-python#1598 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Load time in the log is much different from real load model time? 未关闭

abetlen/llama-cpp-python#1601 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
streaming not working 未关闭

abetlen/llama-cpp-python#1604 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Gemma-2 with Temperature=0 gives different output 未关闭

abetlen/llama-cpp-python#1606 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Pull from Ollama repo functionality 未关闭

enhancement

abetlen/llama-cpp-python#1607 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
destructor llama error: TypeError: 'NoneType' object is not callable 未关闭

abetlen/llama-cpp-python#1610 · 11 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add support for croos-encoders 未关闭

enhancement

abetlen/llama-cpp-python#1611 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ERROR: Failed building wheel for llama-cpp-python for SYCL installation on Windows 未关闭

bug

abetlen/llama-cpp-python#1614 · 12 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Build fail for version from 0.2.80 to 0.2.83 未关闭

bug

abetlen/llama-cpp-python#1616 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ERROR: Could not build wheels for llama-cpp-python 未关闭

bug

abetlen/llama-cpp-python#1617 · 19 条评论 · 9 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Feat: Add support for Llama 3.1 function calling 未关闭

enhancement

abetlen/llama-cpp-python#1618 · 3 条评论 · 21 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-cpp-python CMake,Failed building wheel for llama-cpp-python error on windows 11 pro 未关闭

bug

abetlen/llama-cpp-python#1619 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
can not install llama-cpp-python 未关闭

bug

abetlen/llama-cpp-python#1621 · 1 条评论 · 10 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Not able to Install with cuda support in Bento 未关闭

bug

abetlen/llama-cpp-python#1622 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CUDA error: unspecified launch failure on inference on Nvidia V100 GPUs 未关闭

bug

abetlen/llama-cpp-python#1624 · 5 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
All requests end with 'finish_reason': 'length' when the max_tokens=-1 parameter is set. 未关闭

bug

abetlen/llama-cpp-python#1645 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
create_chat_completion is stuck in versions 0.2.84 and 0.2.85 for Mac Silicon 未关闭

bug

abetlen/llama-cpp-python#1648 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Installing the pre-built v0.2.85 – v0.3.0 Metal wheels for Python 3.9 – 3.12 yields `Bad magic number for file header` 未关闭

bug

abetlen/llama-cpp-python#1650 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
pip install llama-cpp-python on anaconda 未关闭

bug

abetlen/llama-cpp-python#1654 · 8 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Error When Loading Model with llama_cpp: [WinError -1073741795] Windows Error 0xc000001d 未关闭

bug

abetlen/llama-cpp-python#1660 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
High CPU Usage, very slow performance, with flash_attn=true on ROCM 6.1.2 未关闭

bug

abetlen/llama-cpp-python#1661 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Wheel build showing error of cmake suddenly - building version 0.2.76 on windows 未关闭

abetlen/llama-cpp-python#1664 · 6 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
error: no matching function for call to 'ggml_group_norm' 未关闭

abetlen/llama-cpp-python#1665 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Model path does not exist: path/to/llama-2/llama-model.gguf 未关闭

abetlen/llama-cpp-python#1672 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How to improve GPU utilization 未关闭

abetlen/llama-cpp-python#1674 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add support T5 (encode-decoder) models at API level and server 未关闭

enhancement

abetlen/llama-cpp-python#1681 · 0 条评论 · 9 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
0.2.88 fails to build: error: invalid operands to binary expression, etc 未关闭

abetlen/llama-cpp-python#1683 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Problem with v0.2.88 未关闭

bug

abetlen/llama-cpp-python#1684 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Failed to load shared library 'E:\anaconda\envs\xinference\lib\site-packages\llama_cpp\lib\llama.dll' 未关闭

abetlen/llama-cpp-python#1685 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CUDA not supported. `ValueError: Attempt to split tensors that exceed maximum supported devices. Current LLAMA_MAX_DEVICES=1` 未关闭

abetlen/llama-cpp-python#1692 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CUDA unsupported, installation bypasses CUDA at all 未关闭

abetlen/llama-cpp-python#1693 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
D:\a\llama-cpp-python\llama-cpp-python\vendor\llama.cpp\ggml\src\ggml.c:6399: GGML_ASSERT(c->ne[0] >= n_dims / 2) failed 未关闭

abetlen/llama-cpp-python#1694 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
get hidden state 未关闭

question

abetlen/llama-cpp-python#1695 · 0 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Empty output when running Q4_K_M quantization of Llama-3-8B-Instruct with llama-cpp-python 未关闭

abetlen/llama-cpp-python#1696 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Feature request : NPU Support 未关闭

abetlen/llama-cpp-python#1702 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日

abetlen

把新 issue 发到你的邮箱