Proprietário

abetlen

4 repositórios indexados · Ver no GitHub

ggml-python
Python bindings for ggml

Python · 152 estrelas
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 estrelas
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 estrelas
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 estrelas

Abertas Todas

568 issues abertas indexadas

Not sure if it's a bug or a configuration error... Aberta

abetlen/llama-cpp-python#1555 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
"llama.cpp error: 'error loading model architecture: unknown model architecture: 'deepseek2' Aberta

abetlen/llama-cpp-python#1556 · 12 comentários · 4 reações · 0 responsáveis · Indexada em 13/9/2026
tool_call function "name" has incorrect format so function calling does not work for functionary Aberta

abetlen/llama-cpp-python#1560 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Switch to disable adding BOS token Aberta

abetlen/llama-cpp-python#1561 · 1 comentário · 2 reações · 0 responsáveis · Indexada em 13/9/2026
Add MiniCPM-Llama3-V-2_5 to supported multi-modal models Aberta

abetlen/llama-cpp-python#1564 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Pyinstaller Cannot Find File After Compiling Aberta

abetlen/llama-cpp-python#1565 · 4 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
BUG: import error or execute error (NULL pointer access) for the latest prebuilt version `v0.2.81` Aberta

abetlen/llama-cpp-python#1571 · 8 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
build error for version 0.2.81 and 0.2.80 Aberta

abetlen/llama-cpp-python#1573 · 11 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
The new shared library causes conflicts if more than 1 variant of llama-cpp-python is imported Aberta

abetlen/llama-cpp-python#1575 · 10 comentários · 5 reações · 0 responsáveis · Indexada em 13/9/2026
System role not supported Gemma 2 Aberta

abetlen/llama-cpp-python#1580 · 5 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Trying to load llm model using llama cpp python with GPU support fails with an OSError: exception: access violation reading 0x0000000000000000 Aberta

abetlen/llama-cpp-python#1581 · 21 comentários · 5 reações · 0 responsáveis · Indexada em 13/9/2026
unsupported Microsoft Visual Studio version Aberta

abetlen/llama-cpp-python#1586 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Cannot run T5-based models Aberta

abetlen/llama-cpp-python#1587 · 18 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
GPU acceleration gives gibberish output and breaks string grammars Aberta

abetlen/llama-cpp-python#1593 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Windows - OpenBLAS (CPU) - Could NOT find BLAS (missing: BLAS_LIBRARIES) Aberta

bug

abetlen/llama-cpp-python#1595 · 1 comentário · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Gemma 2 : flash_attn is not compatible with attn_soft_cap - forcing off Aberta

abetlen/llama-cpp-python#1598 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Load time in the log is much different from real load model time? Aberta

abetlen/llama-cpp-python#1601 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
streaming not working Aberta

abetlen/llama-cpp-python#1604 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Gemma-2 with Temperature=0 gives different output Aberta

abetlen/llama-cpp-python#1606 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Pull from Ollama repo functionality Aberta

enhancement

abetlen/llama-cpp-python#1607 · 4 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
destructor llama error: TypeError: 'NoneType' object is not callable Aberta

abetlen/llama-cpp-python#1610 · 11 comentários · 3 reações · 0 responsáveis · Indexada em 13/9/2026
Add support for croos-encoders Aberta

enhancement

abetlen/llama-cpp-python#1611 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
ERROR: Failed building wheel for llama-cpp-python for SYCL installation on Windows Aberta

bug

abetlen/llama-cpp-python#1614 · 12 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Build fail for version from 0.2.80 to 0.2.83 Aberta

bug

abetlen/llama-cpp-python#1616 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
ERROR: Could not build wheels for llama-cpp-python Aberta

bug

abetlen/llama-cpp-python#1617 · 19 comentários · 9 reações · 0 responsáveis · Indexada em 13/9/2026
Feat: Add support for Llama 3.1 function calling Aberta

enhancement

abetlen/llama-cpp-python#1618 · 3 comentários · 21 reações · 0 responsáveis · Indexada em 13/9/2026
llama-cpp-python CMake,Failed building wheel for llama-cpp-python error on windows 11 pro Aberta

bug

abetlen/llama-cpp-python#1619 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
can not install llama-cpp-python Aberta

bug

abetlen/llama-cpp-python#1621 · 1 comentário · 10 reações · 0 responsáveis · Indexada em 13/9/2026
Not able to Install with cuda support in Bento Aberta

bug

abetlen/llama-cpp-python#1622 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
CUDA error: unspecified launch failure on inference on Nvidia V100 GPUs Aberta

bug

abetlen/llama-cpp-python#1624 · 5 comentários · 4 reações · 0 responsáveis · Indexada em 13/9/2026
All requests end with 'finish_reason': 'length' when the max_tokens=-1 parameter is set. Aberta

bug

abetlen/llama-cpp-python#1645 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
create_chat_completion is stuck in versions 0.2.84 and 0.2.85 for Mac Silicon Aberta

bug

abetlen/llama-cpp-python#1648 · 6 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Installing the pre-built v0.2.85 – v0.3.0 Metal wheels for Python 3.9 – 3.12 yields `Bad magic number for file header` Aberta

bug

abetlen/llama-cpp-python#1650 · 4 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
pip install llama-cpp-python on anaconda Aberta

bug

abetlen/llama-cpp-python#1654 · 8 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Error When Loading Model with llama_cpp: [WinError -1073741795] Windows Error 0xc000001d Aberta

bug

abetlen/llama-cpp-python#1660 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
High CPU Usage, very slow performance, with flash_attn=true on ROCM 6.1.2 Aberta

bug

abetlen/llama-cpp-python#1661 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Wheel build showing error of cmake suddenly - building version 0.2.76 on windows Aberta

abetlen/llama-cpp-python#1664 · 6 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
error: no matching function for call to 'ggml_group_norm' Aberta

abetlen/llama-cpp-python#1665 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Model path does not exist: path/to/llama-2/llama-model.gguf Aberta

abetlen/llama-cpp-python#1672 · 4 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
How to improve GPU utilization Aberta

abetlen/llama-cpp-python#1674 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Add support T5 (encode-decoder) models at API level and server Aberta

enhancement

abetlen/llama-cpp-python#1681 · 0 comentários · 9 reações · 0 responsáveis · Indexada em 13/9/2026
0.2.88 fails to build: error: invalid operands to binary expression, etc Aberta

abetlen/llama-cpp-python#1683 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Problem with v0.2.88 Aberta

bug

abetlen/llama-cpp-python#1684 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Failed to load shared library 'E:\anaconda\envs\xinference\lib\site-packages\llama_cpp\lib\llama.dll' Aberta

abetlen/llama-cpp-python#1685 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
CUDA not supported. `ValueError: Attempt to split tensors that exceed maximum supported devices. Current LLAMA_MAX_DEVICES=1` Aberta

abetlen/llama-cpp-python#1692 · 1 comentário · 1 reação · 0 responsáveis · Indexada em 13/9/2026
CUDA unsupported, installation bypasses CUDA at all Aberta

abetlen/llama-cpp-python#1693 · 5 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
D:\a\llama-cpp-python\llama-cpp-python\vendor\llama.cpp\ggml\src\ggml.c:6399: GGML_ASSERT(c->ne[0] >= n_dims / 2) failed Aberta

abetlen/llama-cpp-python#1694 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
get hidden state Aberta

question

abetlen/llama-cpp-python#1695 · 0 comentários · 2 reações · 0 responsáveis · Indexada em 13/9/2026
Empty output when running Q4_K_M quantization of Llama-3-8B-Instruct with llama-cpp-python Aberta

abetlen/llama-cpp-python#1696 · 4 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Feature request : NPU Support Aberta

abetlen/llama-cpp-python#1702 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026

abetlen

Receba novas issues na sua caixa de entrada