Propriétaire

abetlen

4 dépôts indexés · Voir sur GitHub

ggml-python
Python bindings for ggml

Python · 152 étoiles
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 étoiles
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 étoiles
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 étoiles

Ouverte Toutes

568 issues ouvertes indexées

cuBLAS error 15 Ouverte

bug

abetlen/llama-cpp-python#941 · 2 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
How can I extract data from documents in JSON Output Format? Ouverte

question

abetlen/llama-cpp-python#942 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Build/ Installation problem Ouverte

bug

abetlen/llama-cpp-python#943 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
pip install fails on Windows 10 with conda installation of CLBlast; C++ Standard Library forbids macroizing the keyword "bool" Ouverte

bug build

abetlen/llama-cpp-python#945 · 4 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Llava/CLIP Models Not Loading Properly Ouverte

bug

abetlen/llama-cpp-python#946 · 12 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Different gpu buffer behavior using llama-cpp-python[server] vs llama-cpp Ouverte

bug build

abetlen/llama-cpp-python#948 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
OpenAI v1 Compatibility in Python API Ouverte

enhancement

abetlen/llama-cpp-python#950 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Add n_keep parameter to LLama constructor to enable Streaming-LLM Ouverte

enhancement

abetlen/llama-cpp-python#954 · 1 commentaire · 4 réactions · 0 personnes assignées · Indexée le 13/9/2026
Llama-cpp-python installation issues on MacOS with M2 Ouverte

bug build

abetlen/llama-cpp-python#956 · 5 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
CUDA/Windows instructions do not work; there is no setup.py Ouverte

bug documentation

abetlen/llama-cpp-python#965 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Local LLM ISSUE GGML_ASSERT Ouverte

bug

abetlen/llama-cpp-python#966 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
deepseek chat_format template Ouverte

enhancement

abetlen/llama-cpp-python#969 · 4 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Getting error OSError: exception: access violation reading 0x000001774F656EC0 Ouverte

bug

abetlen/llama-cpp-python#970 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Inference speed on windows server 2022 which has Nvidia RTX A4000 Ouverte

bug performance

abetlen/llama-cpp-python#973 · 4 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Loading Multiple Models at Once on Seperate Devices, CUDA error 400 Ouverte

bug

abetlen/llama-cpp-python#974 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Different embedding results between LlamaCppEmbeddings vs server? Ouverte

bug

abetlen/llama-cpp-python#975 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
GPU does not work on llamacpp(langchain) , please help. Ouverte

abetlen/llama-cpp-python#977 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
I want to know how to enable AMD GPU or enable hipBLAS/ROCm on Windows. I tried the official HIP (sdk) and set the relevant environment flags, but it seems to have no effect. BLAS is always at 0. Is there any solution for Windows? Plan? Ouverte

question

abetlen/llama-cpp-python#978 · 2 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Add additional function calling models Ouverte

enhancement

abetlen/llama-cpp-python#979 · 4 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
The llama-cpp-python installed using the following method cannot find llama.dll, but the actual llama.dll exists. Ouverte

bug

abetlen/llama-cpp-python#981 · 9 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
[Question] why i have 40 seconds more for the loading of the model, when i compare with llama-cpp Ouverte

bug

abetlen/llama-cpp-python#982 · 3 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
max_tokens is None leads to internal server error Ouverte

bug

abetlen/llama-cpp-python#983 · 4 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Cuda error 1 Ouverte

bug

abetlen/llama-cpp-python#984 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support for a limited vocabulary for generation Ouverte

question

abetlen/llama-cpp-python#998 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Mixtral A100/H100 performance Ouverte

bug performance

abetlen/llama-cpp-python#1017 · 3 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
A different value of n_batch gives different logits (llama.cpp_hf) Ouverte

bug

abetlen/llama-cpp-python#1018 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Multiple GPU incredibly slow inference Ouverte

bug

abetlen/llama-cpp-python#1026 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Include in Readme how to Pass Custom Arguments to `llama_cpp.server` in Docker Ouverte

documentation question

abetlen/llama-cpp-python#1029 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
cuBLAS on WSL: "no CUDA-capable device is detected" Ouverte

bug

abetlen/llama-cpp-python#1030 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
LlamaCPP Usage Ouverte

question

abetlen/llama-cpp-python#1035 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Last message when streaming completion should not be empty Ouverte

bug

abetlen/llama-cpp-python#1038 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Investigate / improve streaming speed Ouverte

bug performance

abetlen/llama-cpp-python#1039 · 1 commentaire · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Permission denied when pulling Docker image Ouverte

abetlen/llama-cpp-python#1040 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
UnsupportedOperation: fileno in Llava15ChatHandler Ouverte

bug

abetlen/llama-cpp-python#1041 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
OpenAI Compatible server (Function calling), does not support (jxnl/Instructor), because of Unrecognized schema: {'$ref': '#/$defs/Edge'} Ouverte

bug

abetlen/llama-cpp-python#1043 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
[WinError 87] The parameter is incorrect : {'winmode': 0} after upgrading from 0.2.23 to 0.2.25 Ouverte

bug

abetlen/llama-cpp-python#1049 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support Static File Dir/Root Dir in Server Ouverte

enhancement

abetlen/llama-cpp-python#1060 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Concurrent request handling Ouverte

question

abetlen/llama-cpp-python#1062 · 6 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
windows 11 install faild Ouverte

bug build

abetlen/llama-cpp-python#1063 · 6 commentaires · 6 réactions · 0 personnes assignées · Indexée le 13/9/2026
CUDA error: the provided PTX was compiled with an unsupported toolchain Ouverte

bug

abetlen/llama-cpp-python#1064 · 5 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support for LLMLingua Ouverte

enhancement

abetlen/llama-cpp-python#1065 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
2.27 and below Cannot Build or Install llama_cpp_python on AMD ROCm HIP POP OS 22.04 CMake Build Failed Ouverte

bug build

abetlen/llama-cpp-python#1066 · 7 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Fails when attempting to load llama.dll during Poetry final bootup. Ouverte

bug

abetlen/llama-cpp-python#1069 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support for conversion and quantization scripts from llama.ccp Ouverte

enhancement

abetlen/llama-cpp-python#1074 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Assertion Error while Loading a Phi2 GGUF Model via llama-cpp-python Ouverte

bug

abetlen/llama-cpp-python#1076 · 4 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Issue in installing llama-cpp-python. Ouverte

bug build

abetlen/llama-cpp-python#1081 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Performance degradation running with half a socket in CPU system Ouverte

bug performance

abetlen/llama-cpp-python#1098 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Problem with importing llama-cpp-python library on Linux CentOS Ouverte

bug

abetlen/llama-cpp-python#1099 · 2 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
cmake build error: identifier "half" is undefined with version 0.2.29 Ouverte

bug build

abetlen/llama-cpp-python#1100 · 2 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Error install on Ubuntu 23.10 (CUDA) Ouverte

abetlen/llama-cpp-python#1103 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026

abetlen

Recevez les nouvelles issues par e-mail