Owner

abetlen

已索引 4 个仓库 · 在 GitHub 查看

ggml-python
Python bindings for ggml

Python · 152 个 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 个 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 个 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 个 star

未关闭全部

目前已索引 568 个 Issue

save_state/load_state when n_gpu_layers > 0 output garbage 未关闭

bug

abetlen/llama-cpp-python#743 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Reload the model for each inference 未关闭

abetlen/llama-cpp-python#745 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CMake Error: CMAKE_C_COMPILER not set 未关闭

bug build

abetlen/llama-cpp-python#749 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CMake Error at CMakeLists.txt:3 (project) 未关闭

bug build

abetlen/llama-cpp-python#751 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Crash on x86 with llama-cpp-python with docker or on host directly 未关闭

bug build

abetlen/llama-cpp-python#753 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Second GPU detected by "nvidia-smi", but not detected when running CodeLlama with Llama-cpp-python 未关闭

question

abetlen/llama-cpp-python#754 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Invalid magic number when trying to load model 未关闭

bug

abetlen/llama-cpp-python#755 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-cpp-python not using GPU on m1 未关闭

bug build

abetlen/llama-cpp-python#756 · 28 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Demo of Interactive Chat ignores antiprompt with gguf 未关闭

abetlen/llama-cpp-python#759 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Weird output 未关闭

bug

abetlen/llama-cpp-python#761 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add batched inference 未关闭

enhancement high-priority

abetlen/llama-cpp-python#771 · 39 条评论 · 91 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add local tests with real model 未关闭

enhancement

abetlen/llama-cpp-python#775 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add tests for pypi releases 未关闭

enhancement

abetlen/llama-cpp-python#776 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Wrong file path in site-packages 未关闭

abetlen/llama-cpp-python#777 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Windows: CMake build failed building wheel 未关闭

bug build

abetlen/llama-cpp-python#785 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ERROR: Could not build wheels for llama-cpp-python, which is required to install pyproject.toml-based projects 未关闭

bug

abetlen/llama-cpp-python#789 · 10 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
The same as #714 . Can't install llama-cpp-python -libpython3.11.a file not found during building wheel 未关闭

bug

abetlen/llama-cpp-python#791 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[Request] nice-ifying build failures around hardware acceleration 未关闭

enhancement

abetlen/llama-cpp-python#793 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Draft: Refactor Chat Formatter for Enhanced Flexibility and Extensibility 未关闭

enhancement

abetlen/llama-cpp-python#810 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CPU Usage is very low when using it with BLAS 未关闭

bug

abetlen/llama-cpp-python#811 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ERROR: .GGML_ASSERT: D:\a\llama-cpp-python-cuBLAS-wheels\llama-cpp-python-cuBLAS-wheels\vendor\llama.cpp\ggml-cuda.cu:5925: false 未关闭

bug

abetlen/llama-cpp-python#812 · 1 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add Finetune Support 未关闭

enhancement help wanted

abetlen/llama-cpp-python#814 · 3 条评论 · 8 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
One chat prompt/template should be customizable from runtime - the prompt I need atm 未关闭

documentation

abetlen/llama-cpp-python#816 · 7 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add support for cfg-negative-prompt 未关闭

enhancement

abetlen/llama-cpp-python#822 · 1 条评论 · 6 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Embedding document fails if tokens length > n_ctx 未关闭

bug

abetlen/llama-cpp-python#831 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
segmentation fault on 0.2.11 when just starting generated #3712 未关闭

bug

abetlen/llama-cpp-python#836 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Illegal instruction (core dumped) when trying to load model 未关闭

bug

abetlen/llama-cpp-python#839 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CausalLM ERROR: byte not found in vocab 未关闭

bug

abetlen/llama-cpp-python#840 · 7 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Low level API example failed to run 未关闭

bug help wanted

abetlen/llama-cpp-python#841 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
(mach-o file, but is an incompatible architecture (have 'x86_64', need 'arm64')) on M2 未关闭

bug build documentation

abetlen/llama-cpp-python#847 · 19 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Unable to install llama-cpp-python Package in Python - Wheel Building Process gets Stuck 未关闭

bug build documentation

abetlen/llama-cpp-python#853 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
When multiple requests are processed, the first request is interrupted 未关闭

bug

abetlen/llama-cpp-python#867 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Why can't multiple apis be triggered at the same time 未关闭

question

abetlen/llama-cpp-python#873 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Raise Error "no CUDA-capable device is detected" when running a `CUBLAS` compiled version of llama-cpp-python 未关闭

bug documentation

abetlen/llama-cpp-python#880 · 13 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
PIP Install Error 未关闭

bug

abetlen/llama-cpp-python#883 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Llama model entering into a lenghty question answer mode 未关闭

question

abetlen/llama-cpp-python#885 · 3 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Multi-GPU error, ggml-cuda.cu:7036: invalid argument 未关闭

bug

abetlen/llama-cpp-python#886 · 2 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Multi-GPU error 未关闭

bug

abetlen/llama-cpp-python#887 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Unexpected behaviour when using temperature=0 未关闭

bug

abetlen/llama-cpp-python#890 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CMAKE config for Ninja unsuitable for compiling on Ryzen 5 6 core cpu 未关闭

bug build

abetlen/llama-cpp-python#895 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[BUG] Server cant handle two streaming connections in same time 未关闭

bug documentation

abetlen/llama-cpp-python#897 · 5 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Intel Arc Support? 未关闭

enhancement question

abetlen/llama-cpp-python#901 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CUDA error 102 未关闭

bug

abetlen/llama-cpp-python#904 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
LinkOutsideDestinationError when installing PrivateGPT 未关闭

bug build

abetlen/llama-cpp-python#905 · 6 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Module import doesn't work when using pip install llama-cpp-python --target="dir" 未关闭

bug build

abetlen/llama-cpp-python#907 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
When using LlamaCppEmbeddings to embed a gguf type model, an error is reported 未关闭

bug

abetlen/llama-cpp-python#910 · 10 条评论 · 9 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
0.18 (and others?) no longer use GPU at all 未关闭

bug build

abetlen/llama-cpp-python#912 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Help needed with loading 'TheBloke/Mistral-7B-Instruct-v0.1-GGUF' model using `llama-cpp-python` 未关闭

question

abetlen/llama-cpp-python#915 · 8 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Multiple GPUs memory issue 未关闭

bug

abetlen/llama-cpp-python#916 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How to add data to a llama2tian model that was not previously in the model through langchain via port 8000. 未关闭

question

abetlen/llama-cpp-python#933 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日

abetlen

把新 issue 发到你的邮箱