Owner

abetlen

已索引 4 個儲存庫 · 在 GitHub 檢視

ggml-python
Python bindings for ggml

Python · 152 個 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 個 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 個 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 個 star

未關閉全部

目前已索引 568 個未關閉的 Issue

cuBLAS error 15 未關閉

bug

abetlen/llama-cpp-python#941 · 2 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
How can I extract data from documents in JSON Output Format? 未關閉

question

abetlen/llama-cpp-python#942 · 0 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Build/ Installation problem 未關閉

bug

abetlen/llama-cpp-python#943 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
pip install fails on Windows 10 with conda installation of CLBlast; C++ Standard Library forbids macroizing the keyword "bool" 未關閉

bug build

abetlen/llama-cpp-python#945 · 4 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Llava/CLIP Models Not Loading Properly 未關閉

bug

abetlen/llama-cpp-python#946 · 12 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Different gpu buffer behavior using llama-cpp-python[server] vs llama-cpp 未關閉

bug build

abetlen/llama-cpp-python#948 · 0 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
OpenAI v1 Compatibility in Python API 未關閉

enhancement

abetlen/llama-cpp-python#950 · 2 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Add n_keep parameter to LLama constructor to enable Streaming-LLM 未關閉

enhancement

abetlen/llama-cpp-python#954 · 1 則留言 · 4 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Llama-cpp-python installation issues on MacOS with M2 未關閉

bug build

abetlen/llama-cpp-python#956 · 5 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
CUDA/Windows instructions do not work; there is no setup.py 未關閉

bug documentation

abetlen/llama-cpp-python#965 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Local LLM ISSUE GGML_ASSERT 未關閉

bug

abetlen/llama-cpp-python#966 · 0 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
deepseek chat_format template 未關閉

enhancement

abetlen/llama-cpp-python#969 · 4 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Getting error OSError: exception: access violation reading 0x000001774F656EC0 未關閉

bug

abetlen/llama-cpp-python#970 · 3 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Inference speed on windows server 2022 which has Nvidia RTX A4000 未關閉

bug performance

abetlen/llama-cpp-python#973 · 4 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Loading Multiple Models at Once on Seperate Devices, CUDA error 400 未關閉

bug

abetlen/llama-cpp-python#974 · 3 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Different embedding results between LlamaCppEmbeddings vs server? 未關閉

bug

abetlen/llama-cpp-python#975 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
GPU does not work on llamacpp(langchain) , please help. 未關閉

abetlen/llama-cpp-python#977 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
I want to know how to enable AMD GPU or enable hipBLAS/ROCm on Windows. I tried the official HIP (sdk) and set the relevant environment flags, but it seems to have no effect. BLAS is always at 0. Is there any solution for Windows? Plan? 未關閉

question

abetlen/llama-cpp-python#978 · 2 則留言 · 2 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Add additional function calling models 未關閉

enhancement

abetlen/llama-cpp-python#979 · 4 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
The llama-cpp-python installed using the following method cannot find llama.dll, but the actual llama.dll exists. 未關閉

bug

abetlen/llama-cpp-python#981 · 9 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
[Question] why i have 40 seconds more for the loading of the model, when i compare with llama-cpp 未關閉

bug

abetlen/llama-cpp-python#982 · 3 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
max_tokens is None leads to internal server error 未關閉

bug

abetlen/llama-cpp-python#983 · 4 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Cuda error 1 未關閉

bug

abetlen/llama-cpp-python#984 · 0 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Support for a limited vocabulary for generation 未關閉

question

abetlen/llama-cpp-python#998 · 7 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Mixtral A100/H100 performance 未關閉

bug performance

abetlen/llama-cpp-python#1017 · 3 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
A different value of n_batch gives different logits (llama.cpp_hf) 未關閉

bug

abetlen/llama-cpp-python#1018 · 0 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Multiple GPU incredibly slow inference 未關閉

bug

abetlen/llama-cpp-python#1026 · 6 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Include in Readme how to Pass Custom Arguments to `llama_cpp.server` in Docker 未關閉

documentation question

abetlen/llama-cpp-python#1029 · 6 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
cuBLAS on WSL: "no CUDA-capable device is detected" 未關閉

bug

abetlen/llama-cpp-python#1030 · 2 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
LlamaCPP Usage 未關閉

question

abetlen/llama-cpp-python#1035 · 2 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Last message when streaming completion should not be empty 未關閉

bug

abetlen/llama-cpp-python#1038 · 2 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Investigate / improve streaming speed 未關閉

bug performance

abetlen/llama-cpp-python#1039 · 1 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Permission denied when pulling Docker image 未關閉

abetlen/llama-cpp-python#1040 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
UnsupportedOperation: fileno in Llava15ChatHandler 未關閉

bug

abetlen/llama-cpp-python#1041 · 2 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
OpenAI Compatible server (Function calling), does not support (jxnl/Instructor), because of Unrecognized schema: {'$ref': '#/$defs/Edge'} 未關閉

bug

abetlen/llama-cpp-python#1043 · 0 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
[WinError 87] The parameter is incorrect : {'winmode': 0} after upgrading from 0.2.23 to 0.2.25 未關閉

bug

abetlen/llama-cpp-python#1049 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Support Static File Dir/Root Dir in Server 未關閉

enhancement

abetlen/llama-cpp-python#1060 · 0 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Concurrent request handling 未關閉

question

abetlen/llama-cpp-python#1062 · 6 則留言 · 3 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
windows 11 install faild 未關閉

bug build

abetlen/llama-cpp-python#1063 · 6 則留言 · 6 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
CUDA error: the provided PTX was compiled with an unsupported toolchain 未關閉

bug

abetlen/llama-cpp-python#1064 · 5 則留言 · 2 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Support for LLMLingua 未關閉

enhancement

abetlen/llama-cpp-python#1065 · 3 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
2.27 and below Cannot Build or Install llama_cpp_python on AMD ROCm HIP POP OS 22.04 CMake Build Failed 未關閉

bug build

abetlen/llama-cpp-python#1066 · 7 則留言 · 2 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Fails when attempting to load llama.dll during Poetry final bootup. 未關閉

bug

abetlen/llama-cpp-python#1069 · 0 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Support for conversion and quantization scripts from llama.ccp 未關閉

enhancement

abetlen/llama-cpp-python#1074 · 1 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Assertion Error while Loading a Phi2 GGUF Model via llama-cpp-python 未關閉

bug

abetlen/llama-cpp-python#1076 · 4 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Issue in installing llama-cpp-python. 未關閉

bug build

abetlen/llama-cpp-python#1081 · 6 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Performance degradation running with half a socket in CPU system 未關閉

bug performance

abetlen/llama-cpp-python#1098 · 3 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Problem with importing llama-cpp-python library on Linux CentOS 未關閉

bug

abetlen/llama-cpp-python#1099 · 2 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
cmake build error: identifier "half" is undefined with version 0.2.29 未關閉

bug build

abetlen/llama-cpp-python#1100 · 2 則留言 · 1 個 reaction · 已指派 0 人 · 索引於 2026年9月13日
Error install on Ubuntu 23.10 (CUDA) 未關閉

abetlen/llama-cpp-python#1103 · 7 則留言 · 0 個 reaction · 已指派 0 人 · 索引於 2026年9月13日

abetlen

把新 issue 寄到你的電子郵件信箱