Chủ sở hữu

abetlen

Đã lập chỉ mục 4 kho mã nguồn · Xem trên GitHub

ggml-python
Python bindings for ggml

Python · 152 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 star

Đang mở Tất cả

Đã lập chỉ mục 568 issue đang mở

save_state/load_state when n_gpu_layers > 0 output garbage Đang mở

bug

abetlen/llama-cpp-python#743 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Reload the model for each inference Đang mở

abetlen/llama-cpp-python#745 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CMake Error: CMAKE_C_COMPILER not set Đang mở

bug build

abetlen/llama-cpp-python#749 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CMake Error at CMakeLists.txt:3 (project) Đang mở

bug build

abetlen/llama-cpp-python#751 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Crash on x86 with llama-cpp-python with docker or on host directly Đang mở

bug build

abetlen/llama-cpp-python#753 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Second GPU detected by "nvidia-smi", but not detected when running CodeLlama with Llama-cpp-python Đang mở

question

abetlen/llama-cpp-python#754 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Invalid magic number when trying to load model Đang mở

bug

abetlen/llama-cpp-python#755 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
llama-cpp-python not using GPU on m1 Đang mở

bug build

abetlen/llama-cpp-python#756 · 28 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Demo of Interactive Chat ignores antiprompt with gguf Đang mở

abetlen/llama-cpp-python#759 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Weird output Đang mở

bug

abetlen/llama-cpp-python#761 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add batched inference Đang mở

enhancement high-priority

abetlen/llama-cpp-python#771 · 39 bình luận · 91 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add local tests with real model Đang mở

enhancement

abetlen/llama-cpp-python#775 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add tests for pypi releases Đang mở

enhancement

abetlen/llama-cpp-python#776 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Wrong file path in site-packages Đang mở

abetlen/llama-cpp-python#777 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Windows: CMake build failed building wheel Đang mở

bug build

abetlen/llama-cpp-python#785 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ERROR: Could not build wheels for llama-cpp-python, which is required to install pyproject.toml-based projects Đang mở

bug

abetlen/llama-cpp-python#789 · 10 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
The same as #714 . Can't install llama-cpp-python -libpython3.11.a file not found during building wheel Đang mở

bug

abetlen/llama-cpp-python#791 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
[Request] nice-ifying build failures around hardware acceleration Đang mở

enhancement

abetlen/llama-cpp-python#793 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Draft: Refactor Chat Formatter for Enhanced Flexibility and Extensibility Đang mở

enhancement

abetlen/llama-cpp-python#810 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CPU Usage is very low when using it with BLAS Đang mở

bug

abetlen/llama-cpp-python#811 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ERROR: .GGML_ASSERT: D:\a\llama-cpp-python-cuBLAS-wheels\llama-cpp-python-cuBLAS-wheels\vendor\llama.cpp\ggml-cuda.cu:5925: false Đang mở

bug

abetlen/llama-cpp-python#812 · 1 bình luận · 2 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add Finetune Support Đang mở

enhancement help wanted

abetlen/llama-cpp-python#814 · 3 bình luận · 8 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
One chat prompt/template should be customizable from runtime - the prompt I need atm Đang mở

documentation

abetlen/llama-cpp-python#816 · 7 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add support for cfg-negative-prompt Đang mở

enhancement

abetlen/llama-cpp-python#822 · 1 bình luận · 6 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Embedding document fails if tokens length > n_ctx Đang mở

bug

abetlen/llama-cpp-python#831 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
segmentation fault on 0.2.11 when just starting generated #3712 Đang mở

bug

abetlen/llama-cpp-python#836 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Illegal instruction (core dumped) when trying to load model Đang mở

bug

abetlen/llama-cpp-python#839 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CausalLM ERROR: byte not found in vocab Đang mở

bug

abetlen/llama-cpp-python#840 · 7 bình luận · 5 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Low level API example failed to run Đang mở

bug help wanted

abetlen/llama-cpp-python#841 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
(mach-o file, but is an incompatible architecture (have 'x86_64', need 'arm64')) on M2 Đang mở

bug build documentation

abetlen/llama-cpp-python#847 · 19 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Unable to install llama-cpp-python Package in Python - Wheel Building Process gets Stuck Đang mở

bug build documentation

abetlen/llama-cpp-python#853 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
When multiple requests are processed, the first request is interrupted Đang mở

bug

abetlen/llama-cpp-python#867 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Why can't multiple apis be triggered at the same time Đang mở

question

abetlen/llama-cpp-python#873 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Raise Error "no CUDA-capable device is detected" when running a `CUBLAS` compiled version of llama-cpp-python Đang mở

bug documentation

abetlen/llama-cpp-python#880 · 13 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
PIP Install Error Đang mở

bug

abetlen/llama-cpp-python#883 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Llama model entering into a lenghty question answer mode Đang mở

question

abetlen/llama-cpp-python#885 · 3 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Multi-GPU error, ggml-cuda.cu:7036: invalid argument Đang mở

bug

abetlen/llama-cpp-python#886 · 2 bình luận · 3 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Multi-GPU error Đang mở

bug

abetlen/llama-cpp-python#887 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Unexpected behaviour when using temperature=0 Đang mở

bug

abetlen/llama-cpp-python#890 · 6 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CMAKE config for Ninja unsuitable for compiling on Ryzen 5 6 core cpu Đang mở

bug build

abetlen/llama-cpp-python#895 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
[BUG] Server cant handle two streaming connections in same time Đang mở

bug documentation

abetlen/llama-cpp-python#897 · 5 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Intel Arc Support? Đang mở

enhancement question

abetlen/llama-cpp-python#901 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CUDA error 102 Đang mở

bug

abetlen/llama-cpp-python#904 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
LinkOutsideDestinationError when installing PrivateGPT Đang mở

bug build

abetlen/llama-cpp-python#905 · 6 bình luận · 4 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Module import doesn't work when using pip install llama-cpp-python --target="dir" Đang mở

bug build

abetlen/llama-cpp-python#907 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
When using LlamaCppEmbeddings to embed a gguf type model, an error is reported Đang mở

bug

abetlen/llama-cpp-python#910 · 10 bình luận · 9 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
0.18 (and others?) no longer use GPU at all Đang mở

bug build

abetlen/llama-cpp-python#912 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Help needed with loading 'TheBloke/Mistral-7B-Instruct-v0.1-GGUF' model using `llama-cpp-python` Đang mở

question

abetlen/llama-cpp-python#915 · 8 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Multiple GPUs memory issue Đang mở

bug

abetlen/llama-cpp-python#916 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
How to add data to a llama2tian model that was not previously in the model through langchain via port 8000. Đang mở

question

abetlen/llama-cpp-python#933 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026

abetlen

Nhận issue mới trong hộp thư của bạn