Propietario

abetlen

4 repositorios indexados · Ver en GitHub

ggml-python
Python bindings for ggml

Python · 152 estrellas
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 estrellas
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 estrellas
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 estrellas

Abierto Todos

568 issues abiertos indexados

Not sure if it's a bug or a configuration error... Abierto

abetlen/llama-cpp-python#1555 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
"llama.cpp error: 'error loading model architecture: unknown model architecture: 'deepseek2' Abierto

abetlen/llama-cpp-python#1556 · 12 comentarios · 4 reacciones · 0 asignados · Indexado el 13/9/2026
tool_call function "name" has incorrect format so function calling does not work for functionary Abierto

abetlen/llama-cpp-python#1560 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Switch to disable adding BOS token Abierto

abetlen/llama-cpp-python#1561 · 1 comentario · 2 reacciones · 0 asignados · Indexado el 13/9/2026
Add MiniCPM-Llama3-V-2_5 to supported multi-modal models Abierto

abetlen/llama-cpp-python#1564 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Pyinstaller Cannot Find File After Compiling Abierto

abetlen/llama-cpp-python#1565 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
BUG: import error or execute error (NULL pointer access) for the latest prebuilt version `v0.2.81` Abierto

abetlen/llama-cpp-python#1571 · 8 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
build error for version 0.2.81 and 0.2.80 Abierto

abetlen/llama-cpp-python#1573 · 11 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
The new shared library causes conflicts if more than 1 variant of llama-cpp-python is imported Abierto

abetlen/llama-cpp-python#1575 · 10 comentarios · 5 reacciones · 0 asignados · Indexado el 13/9/2026
System role not supported Gemma 2 Abierto

abetlen/llama-cpp-python#1580 · 5 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Trying to load llm model using llama cpp python with GPU support fails with an OSError: exception: access violation reading 0x0000000000000000 Abierto

abetlen/llama-cpp-python#1581 · 21 comentarios · 5 reacciones · 0 asignados · Indexado el 13/9/2026
unsupported Microsoft Visual Studio version Abierto

abetlen/llama-cpp-python#1586 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Cannot run T5-based models Abierto

abetlen/llama-cpp-python#1587 · 18 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
GPU acceleration gives gibberish output and breaks string grammars Abierto

abetlen/llama-cpp-python#1593 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Windows - OpenBLAS (CPU) - Could NOT find BLAS (missing: BLAS_LIBRARIES) Abierto

bug

abetlen/llama-cpp-python#1595 · 1 comentario · 1 reacción · 0 asignados · Indexado el 13/9/2026
Gemma 2 : flash_attn is not compatible with attn_soft_cap - forcing off Abierto

abetlen/llama-cpp-python#1598 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Load time in the log is much different from real load model time? Abierto

abetlen/llama-cpp-python#1601 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
streaming not working Abierto

abetlen/llama-cpp-python#1604 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Gemma-2 with Temperature=0 gives different output Abierto

abetlen/llama-cpp-python#1606 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Pull from Ollama repo functionality Abierto

enhancement

abetlen/llama-cpp-python#1607 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
destructor llama error: TypeError: 'NoneType' object is not callable Abierto

abetlen/llama-cpp-python#1610 · 11 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
Add support for croos-encoders Abierto

enhancement

abetlen/llama-cpp-python#1611 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
ERROR: Failed building wheel for llama-cpp-python for SYCL installation on Windows Abierto

bug

abetlen/llama-cpp-python#1614 · 12 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Build fail for version from 0.2.80 to 0.2.83 Abierto

bug

abetlen/llama-cpp-python#1616 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
ERROR: Could not build wheels for llama-cpp-python Abierto

bug

abetlen/llama-cpp-python#1617 · 19 comentarios · 9 reacciones · 0 asignados · Indexado el 13/9/2026
Feat: Add support for Llama 3.1 function calling Abierto

enhancement

abetlen/llama-cpp-python#1618 · 3 comentarios · 21 reacciones · 0 asignados · Indexado el 13/9/2026
llama-cpp-python CMake,Failed building wheel for llama-cpp-python error on windows 11 pro Abierto

bug

abetlen/llama-cpp-python#1619 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
can not install llama-cpp-python Abierto

bug

abetlen/llama-cpp-python#1621 · 1 comentario · 10 reacciones · 0 asignados · Indexado el 13/9/2026
Not able to Install with cuda support in Bento Abierto

bug

abetlen/llama-cpp-python#1622 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
CUDA error: unspecified launch failure on inference on Nvidia V100 GPUs Abierto

bug

abetlen/llama-cpp-python#1624 · 5 comentarios · 4 reacciones · 0 asignados · Indexado el 13/9/2026
All requests end with 'finish_reason': 'length' when the max_tokens=-1 parameter is set. Abierto

bug

abetlen/llama-cpp-python#1645 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
create_chat_completion is stuck in versions 0.2.84 and 0.2.85 for Mac Silicon Abierto

bug

abetlen/llama-cpp-python#1648 · 6 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Installing the pre-built v0.2.85 – v0.3.0 Metal wheels for Python 3.9 – 3.12 yields `Bad magic number for file header` Abierto

bug

abetlen/llama-cpp-python#1650 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
pip install llama-cpp-python on anaconda Abierto

bug

abetlen/llama-cpp-python#1654 · 8 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Error When Loading Model with llama_cpp: [WinError -1073741795] Windows Error 0xc000001d Abierto

bug

abetlen/llama-cpp-python#1660 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
High CPU Usage, very slow performance, with flash_attn=true on ROCM 6.1.2 Abierto

bug

abetlen/llama-cpp-python#1661 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Wheel build showing error of cmake suddenly - building version 0.2.76 on windows Abierto

abetlen/llama-cpp-python#1664 · 6 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
error: no matching function for call to 'ggml_group_norm' Abierto

abetlen/llama-cpp-python#1665 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Model path does not exist: path/to/llama-2/llama-model.gguf Abierto

abetlen/llama-cpp-python#1672 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
How to improve GPU utilization Abierto

abetlen/llama-cpp-python#1674 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Add support T5 (encode-decoder) models at API level and server Abierto

enhancement

abetlen/llama-cpp-python#1681 · 0 comentarios · 9 reacciones · 0 asignados · Indexado el 13/9/2026
0.2.88 fails to build: error: invalid operands to binary expression, etc Abierto

abetlen/llama-cpp-python#1683 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Problem with v0.2.88 Abierto

bug

abetlen/llama-cpp-python#1684 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Failed to load shared library 'E:\anaconda\envs\xinference\lib\site-packages\llama_cpp\lib\llama.dll' Abierto

abetlen/llama-cpp-python#1685 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
CUDA not supported. `ValueError: Attempt to split tensors that exceed maximum supported devices. Current LLAMA_MAX_DEVICES=1` Abierto

abetlen/llama-cpp-python#1692 · 1 comentario · 1 reacción · 0 asignados · Indexado el 13/9/2026
CUDA unsupported, installation bypasses CUDA at all Abierto

abetlen/llama-cpp-python#1693 · 5 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
D:\a\llama-cpp-python\llama-cpp-python\vendor\llama.cpp\ggml\src\ggml.c:6399: GGML_ASSERT(c->ne[0] >= n_dims / 2) failed Abierto

abetlen/llama-cpp-python#1694 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
get hidden state Abierto

question

abetlen/llama-cpp-python#1695 · 0 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
Empty output when running Q4_K_M quantization of Llama-3-8B-Instruct with llama-cpp-python Abierto

abetlen/llama-cpp-python#1696 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Feature request : NPU Support Abierto

abetlen/llama-cpp-python#1702 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026

abetlen

Recibe los nuevos issues en tu correo