Owner

abetlen

4 indexierte Repositories · Auf GitHub ansehen

ggml-python
Python bindings for ggml

Python · 152 Sterne
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 Sterne
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 Sterne
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 Sterne

Offen Alle

Bisher 568 Issues indexiert

save_state/load_state when n_gpu_layers > 0 output garbage Offen

bug

abetlen/llama-cpp-python#743 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Reload the model for each inference Offen

abetlen/llama-cpp-python#745 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CMake Error: CMAKE_C_COMPILER not set Offen

bug build

abetlen/llama-cpp-python#749 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CMake Error at CMakeLists.txt:3 (project) Offen

bug build

abetlen/llama-cpp-python#751 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Crash on x86 with llama-cpp-python with docker or on host directly Offen

bug build

abetlen/llama-cpp-python#753 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Second GPU detected by "nvidia-smi", but not detected when running CodeLlama with Llama-cpp-python Offen

question

abetlen/llama-cpp-python#754 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Invalid magic number when trying to load model Offen

bug

abetlen/llama-cpp-python#755 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
llama-cpp-python not using GPU on m1 Offen

bug build

abetlen/llama-cpp-python#756 · 28 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Demo of Interactive Chat ignores antiprompt with gguf Offen

abetlen/llama-cpp-python#759 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Weird output Offen

bug

abetlen/llama-cpp-python#761 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add batched inference Offen

enhancement high-priority

abetlen/llama-cpp-python#771 · 39 Kommentare · 91 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add local tests with real model Offen

enhancement

abetlen/llama-cpp-python#775 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add tests for pypi releases Offen

enhancement

abetlen/llama-cpp-python#776 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Wrong file path in site-packages Offen

abetlen/llama-cpp-python#777 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Windows: CMake build failed building wheel Offen

bug build

abetlen/llama-cpp-python#785 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ERROR: Could not build wheels for llama-cpp-python, which is required to install pyproject.toml-based projects Offen

bug

abetlen/llama-cpp-python#789 · 10 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
The same as #714 . Can't install llama-cpp-python -libpython3.11.a file not found during building wheel Offen

bug

abetlen/llama-cpp-python#791 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[Request] nice-ifying build failures around hardware acceleration Offen

enhancement

abetlen/llama-cpp-python#793 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Draft: Refactor Chat Formatter for Enhanced Flexibility and Extensibility Offen

enhancement

abetlen/llama-cpp-python#810 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CPU Usage is very low when using it with BLAS Offen

bug

abetlen/llama-cpp-python#811 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ERROR: .GGML_ASSERT: D:\a\llama-cpp-python-cuBLAS-wheels\llama-cpp-python-cuBLAS-wheels\vendor\llama.cpp\ggml-cuda.cu:5925: false Offen

bug

abetlen/llama-cpp-python#812 · 1 Kommentar · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add Finetune Support Offen

enhancement help wanted

abetlen/llama-cpp-python#814 · 3 Kommentare · 8 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
One chat prompt/template should be customizable from runtime - the prompt I need atm Offen

documentation

abetlen/llama-cpp-python#816 · 7 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add support for cfg-negative-prompt Offen

enhancement

abetlen/llama-cpp-python#822 · 1 Kommentar · 6 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Embedding document fails if tokens length > n_ctx Offen

bug

abetlen/llama-cpp-python#831 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
segmentation fault on 0.2.11 when just starting generated #3712 Offen

bug

abetlen/llama-cpp-python#836 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Illegal instruction (core dumped) when trying to load model Offen

bug

abetlen/llama-cpp-python#839 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CausalLM ERROR: byte not found in vocab Offen

bug

abetlen/llama-cpp-python#840 · 7 Kommentare · 5 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Low level API example failed to run Offen

bug help wanted

abetlen/llama-cpp-python#841 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
(mach-o file, but is an incompatible architecture (have 'x86_64', need 'arm64')) on M2 Offen

bug build documentation

abetlen/llama-cpp-python#847 · 19 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Unable to install llama-cpp-python Package in Python - Wheel Building Process gets Stuck Offen

bug build documentation

abetlen/llama-cpp-python#853 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
When multiple requests are processed, the first request is interrupted Offen

bug

abetlen/llama-cpp-python#867 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Why can't multiple apis be triggered at the same time Offen

question

abetlen/llama-cpp-python#873 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Raise Error "no CUDA-capable device is detected" when running a `CUBLAS` compiled version of llama-cpp-python Offen

bug documentation

abetlen/llama-cpp-python#880 · 13 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
PIP Install Error Offen

bug

abetlen/llama-cpp-python#883 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Llama model entering into a lenghty question answer mode Offen

question

abetlen/llama-cpp-python#885 · 3 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Multi-GPU error, ggml-cuda.cu:7036: invalid argument Offen

bug

abetlen/llama-cpp-python#886 · 2 Kommentare · 3 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Multi-GPU error Offen

bug

abetlen/llama-cpp-python#887 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Unexpected behaviour when using temperature=0 Offen

bug

abetlen/llama-cpp-python#890 · 6 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CMAKE config for Ninja unsuitable for compiling on Ryzen 5 6 core cpu Offen

bug build

abetlen/llama-cpp-python#895 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[BUG] Server cant handle two streaming connections in same time Offen

bug documentation

abetlen/llama-cpp-python#897 · 5 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Intel Arc Support? Offen

enhancement question

abetlen/llama-cpp-python#901 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CUDA error 102 Offen

bug

abetlen/llama-cpp-python#904 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
LinkOutsideDestinationError when installing PrivateGPT Offen

bug build

abetlen/llama-cpp-python#905 · 6 Kommentare · 4 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Module import doesn't work when using pip install llama-cpp-python --target="dir" Offen

bug build

abetlen/llama-cpp-python#907 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
When using LlamaCppEmbeddings to embed a gguf type model, an error is reported Offen

bug

abetlen/llama-cpp-python#910 · 10 Kommentare · 9 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
0.18 (and others?) no longer use GPU at all Offen

bug build

abetlen/llama-cpp-python#912 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Help needed with loading 'TheBloke/Mistral-7B-Instruct-v0.1-GGUF' model using `llama-cpp-python` Offen

question

abetlen/llama-cpp-python#915 · 8 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Multiple GPUs memory issue Offen

bug

abetlen/llama-cpp-python#916 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
How to add data to a llama2tian model that was not previously in the model through langchain via port 8000. Offen

question

abetlen/llama-cpp-python#933 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026

abetlen

Neue Issues direkt in Ihr Postfach