Owner

abetlen

已索引 4 个仓库 · 在 GitHub 查看

ggml-python
Python bindings for ggml

Python · 152 个 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 个 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 个 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 个 star

未关闭全部

目前已索引 568 个未关闭的 Issue

cuBLAS error 15 未关闭

bug

abetlen/llama-cpp-python#941 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How can I extract data from documents in JSON Output Format? 未关闭

question

abetlen/llama-cpp-python#942 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Build/ Installation problem 未关闭

bug

abetlen/llama-cpp-python#943 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
pip install fails on Windows 10 with conda installation of CLBlast; C++ Standard Library forbids macroizing the keyword "bool" 未关闭

bug build

abetlen/llama-cpp-python#945 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Llava/CLIP Models Not Loading Properly 未关闭

bug

abetlen/llama-cpp-python#946 · 12 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Different gpu buffer behavior using llama-cpp-python[server] vs llama-cpp 未关闭

bug build

abetlen/llama-cpp-python#948 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
OpenAI v1 Compatibility in Python API 未关闭

enhancement

abetlen/llama-cpp-python#950 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add n_keep parameter to LLama constructor to enable Streaming-LLM 未关闭

enhancement

abetlen/llama-cpp-python#954 · 1 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Llama-cpp-python installation issues on MacOS with M2 未关闭

bug build

abetlen/llama-cpp-python#956 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CUDA/Windows instructions do not work; there is no setup.py 未关闭

bug documentation

abetlen/llama-cpp-python#965 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Local LLM ISSUE GGML_ASSERT 未关闭

bug

abetlen/llama-cpp-python#966 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
deepseek chat_format template 未关闭

enhancement

abetlen/llama-cpp-python#969 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Getting error OSError: exception: access violation reading 0x000001774F656EC0 未关闭

bug

abetlen/llama-cpp-python#970 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Inference speed on windows server 2022 which has Nvidia RTX A4000 未关闭

bug performance

abetlen/llama-cpp-python#973 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Loading Multiple Models at Once on Seperate Devices, CUDA error 400 未关闭

bug

abetlen/llama-cpp-python#974 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Different embedding results between LlamaCppEmbeddings vs server? 未关闭

bug

abetlen/llama-cpp-python#975 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
GPU does not work on llamacpp(langchain) , please help. 未关闭

abetlen/llama-cpp-python#977 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
I want to know how to enable AMD GPU or enable hipBLAS/ROCm on Windows. I tried the official HIP (sdk) and set the relevant environment flags, but it seems to have no effect. BLAS is always at 0. Is there any solution for Windows? Plan? 未关闭

question

abetlen/llama-cpp-python#978 · 2 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add additional function calling models 未关闭

enhancement

abetlen/llama-cpp-python#979 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
The llama-cpp-python installed using the following method cannot find llama.dll, but the actual llama.dll exists. 未关闭

bug

abetlen/llama-cpp-python#981 · 9 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[Question] why i have 40 seconds more for the loading of the model, when i compare with llama-cpp 未关闭

bug

abetlen/llama-cpp-python#982 · 3 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
max_tokens is None leads to internal server error 未关闭

bug

abetlen/llama-cpp-python#983 · 4 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Cuda error 1 未关闭

bug

abetlen/llama-cpp-python#984 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support for a limited vocabulary for generation 未关闭

question

abetlen/llama-cpp-python#998 · 7 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Mixtral A100/H100 performance 未关闭

bug performance

abetlen/llama-cpp-python#1017 · 3 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
A different value of n_batch gives different logits (llama.cpp_hf) 未关闭

bug

abetlen/llama-cpp-python#1018 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Multiple GPU incredibly slow inference 未关闭

bug

abetlen/llama-cpp-python#1026 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Include in Readme how to Pass Custom Arguments to `llama_cpp.server` in Docker 未关闭

documentation question

abetlen/llama-cpp-python#1029 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
cuBLAS on WSL: "no CUDA-capable device is detected" 未关闭

bug

abetlen/llama-cpp-python#1030 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
LlamaCPP Usage 未关闭

question

abetlen/llama-cpp-python#1035 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Last message when streaming completion should not be empty 未关闭

bug

abetlen/llama-cpp-python#1038 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Investigate / improve streaming speed 未关闭

bug performance

abetlen/llama-cpp-python#1039 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Permission denied when pulling Docker image 未关闭

abetlen/llama-cpp-python#1040 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
UnsupportedOperation: fileno in Llava15ChatHandler 未关闭

bug

abetlen/llama-cpp-python#1041 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
OpenAI Compatible server (Function calling), does not support (jxnl/Instructor), because of Unrecognized schema: {'$ref': '#/$defs/Edge'} 未关闭

bug

abetlen/llama-cpp-python#1043 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[WinError 87] The parameter is incorrect : {'winmode': 0} after upgrading from 0.2.23 to 0.2.25 未关闭

bug

abetlen/llama-cpp-python#1049 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support Static File Dir/Root Dir in Server 未关闭

enhancement

abetlen/llama-cpp-python#1060 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Concurrent request handling 未关闭

question

abetlen/llama-cpp-python#1062 · 6 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
windows 11 install faild 未关闭

bug build

abetlen/llama-cpp-python#1063 · 6 条评论 · 6 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CUDA error: the provided PTX was compiled with an unsupported toolchain 未关闭

bug

abetlen/llama-cpp-python#1064 · 5 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support for LLMLingua 未关闭

enhancement

abetlen/llama-cpp-python#1065 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
2.27 and below Cannot Build or Install llama_cpp_python on AMD ROCm HIP POP OS 22.04 CMake Build Failed 未关闭

bug build

abetlen/llama-cpp-python#1066 · 7 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Fails when attempting to load llama.dll during Poetry final bootup. 未关闭

bug

abetlen/llama-cpp-python#1069 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support for conversion and quantization scripts from llama.ccp 未关闭

enhancement

abetlen/llama-cpp-python#1074 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Assertion Error while Loading a Phi2 GGUF Model via llama-cpp-python 未关闭

bug

abetlen/llama-cpp-python#1076 · 4 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Issue in installing llama-cpp-python. 未关闭

bug build

abetlen/llama-cpp-python#1081 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Performance degradation running with half a socket in CPU system 未关闭

bug performance

abetlen/llama-cpp-python#1098 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Problem with importing llama-cpp-python library on Linux CentOS 未关闭

bug

abetlen/llama-cpp-python#1099 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
cmake build error: identifier "half" is undefined with version 0.2.29 未关闭

bug build

abetlen/llama-cpp-python#1100 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Error install on Ubuntu 23.10 (CUDA) 未关闭

abetlen/llama-cpp-python#1103 · 7 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日

abetlen

把新 issue 发到你的邮箱