Propietario

abetlen

4 repositorios indexados · Ver en GitHub

ggml-python
Python bindings for ggml

Python · 152 estrellas
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 estrellas
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 estrellas
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 estrellas

Abierto Todos

568 issues abiertos indexados

CUDA Memory Allocation Failure and mlock Memory Lock Issue in llama-cpp-python Abierto

abetlen/llama-cpp-python#1944 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
OK!!! ggml_cuda_init: found 1 CUDA devices: Abierto

abetlen/llama-cpp-python#1945 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
The results generated are different from those produced by executing commands with the llama cpp library Abierto

abetlen/llama-cpp-python#1946 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
ERROR: Failed building wheel for llama-cpp-python Failed to build llama-cpp-python ERROR: Could not build wheels for llama-cpp-python which use PEP 517 and cannot be installed directly Abierto

abetlen/llama-cpp-python#1947 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
successfully installed !! CUDA/v12.6 !! Visual Studio 2022!! Abierto

abetlen/llama-cpp-python#1948 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
DeepSeek-R1-Distill-Qwen-1.5B inference answer is wrong Abierto

abetlen/llama-cpp-python#1949 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Publish the latest llama.cpp? Abierto

abetlen/llama-cpp-python#1951 · 2 comentarios · 4 reacciones · 0 asignados · Indexado el 13/9/2026
更新llama cpp，目前不支持deepseek r1以及蒸馏模型 Abierto

abetlen/llama-cpp-python#1952 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Workflow Example for CUDA 12.6 Windows Abierto

abetlen/llama-cpp-python#1954 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Support for phi 4 mini Abierto

abetlen/llama-cpp-python#1955 · 3 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
Could not install llama-cpp-python 0.3.7 on Macbook Air M1 - Compilation issue Abierto

abetlen/llama-cpp-python#1956 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Prebuild WHL, Cuda 12.1 win10 python 3.10 Abierto

abetlen/llama-cpp-python#1960 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Models loading on CPU instead of GPU after updating version Abierto

abetlen/llama-cpp-python#1962 · 4 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Steps to Build and Install llama-cpp-python 0.3.7 w/CUDA on Windows 11 [06/03/2025] Abierto

abetlen/llama-cpp-python#1963 · 3 comentarios · 6 reacciones · 0 asignados · Indexado el 13/9/2026
After choosing to offload all layers onto the GPU, the Ram used for model loading is not released Abierto

abetlen/llama-cpp-python#1964 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Issue with Installing llama-cpp-python 0.3.7: Dependency Problems with scikit-build-core Abierto

abetlen/llama-cpp-python#1965 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
GPU Support Missing in Version >=0.3.5 on Windows with CUDA 12.4 and RTX 3090 Abierto

abetlen/llama-cpp-python#1967 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Metal installation documentation Abierto

abetlen/llama-cpp-python#1968 · 0 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
Support for Python 3.13 in llama-cpp-python? Abierto

abetlen/llama-cpp-python#1970 · 0 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
How to predict a specific length of tokens? Abierto

abetlen/llama-cpp-python#1975 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Gemma3 Multimodal Abierto

abetlen/llama-cpp-python#1976 · 3 comentarios · 4 reacciones · 0 asignados · Indexado el 13/9/2026
Set GGML_BUILD_NUMBER to the correct version when building from pypi tarball Abierto

abetlen/llama-cpp-python#1979 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
HIP enabled binary, or allow me to replace with my own llama binary Abierto

abetlen/llama-cpp-python#1982 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Slow when logits_all=True, inconsistent logprobs and solutions Abierto

abetlen/llama-cpp-python#1983 · 6 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Stream last block not return token usage info when create_chat_completion_openai_v1 or create_chat_completion but server does Abierto

abetlen/llama-cpp-python#1984 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
CUDA llama-cpp-python build failed. Abierto

abetlen/llama-cpp-python#1986 · 4 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Intel Mac (i9 - 5500M) (macOS 15.3.2) - ValueError: Failed to create llama_context - llama_init_from_model: failed to initialize Metal backend Abierto

abetlen/llama-cpp-python#1988 · 1 comentario · 1 reacción · 0 asignados · Indexado el 13/9/2026
cu118 install falls back to CPU mode on CentOS 7 (0.3.8) Abierto

abetlen/llama-cpp-python#1990 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Incorrect winmode in load_shared_library Abierto

abetlen/llama-cpp-python#1993 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Llama 4 not working Abierto

abetlen/llama-cpp-python#1994 · 8 comentarios · 9 reacciones · 0 asignados · Indexado el 13/9/2026
Wrong `chat_format` documented for Moondream 2 Abierto

abetlen/llama-cpp-python#1996 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Running basic example from docs results in `TypeError: 'NoneType' object is not callable` Abierto

abetlen/llama-cpp-python#1998 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
How to use *chat_template* with .gguf models ? (tokenizer_name not implemented) Abierto

abetlen/llama-cpp-python#1999 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
TypeError: 'NoneType' object is not callable in __del__() when exiting Abierto

abetlen/llama-cpp-python#2002 · 0 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
Segmentation fault (core dumped) appearing randomly Abierto

abetlen/llama-cpp-python#2005 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
LLAMA Compiling with Vulkan Abierto

abetlen/llama-cpp-python#2006 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama-cpp-python 0.3.8 with CUDA Abierto

abetlen/llama-cpp-python#2010 · 7 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
How to install the latest version with GPU support Abierto

abetlen/llama-cpp-python#2012 · 6 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Can't install with GPU support with Cuda toolkit 12.9 and Cuda 12.9 Abierto

abetlen/llama-cpp-python#2013 · 22 comentarios · 8 reacciones · 0 asignados · Indexado el 13/9/2026
Is llama-cpp-python supports Llama-4? Abierto

abetlen/llama-cpp-python#2014 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Macos wheel fails on 0.35, works on 0.34 Abierto

abetlen/llama-cpp-python#2016 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Is it possible to run bitnet.cpp through these bindings ? Abierto

abetlen/llama-cpp-python#2021 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Assertion error when offloading Llama 4 layers to CPU Abierto

abetlen/llama-cpp-python#2022 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Support for jinja for custom chat templates Abierto

abetlen/llama-cpp-python#2023 · 1 comentario · 2 reacciones · 0 asignados · Indexado el 13/9/2026
llama_cpp/lib/libllama.so: undefined symbol: llama_kv_cache_view_init Abierto

abetlen/llama-cpp-python#2026 · 6 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Building and installing llama_cpp from source for RTX 50 Blackwell GPU Abierto

abetlen/llama-cpp-python#2028 · 3 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
Access Violation issue facing for exe created using pyinstaller Abierto

abetlen/llama-cpp-python#2029 · 5 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Gemma 3:4B Multimodal CLIP Error [WinError -529697949] Windows Error 0xe06d7363 Abierto

abetlen/llama-cpp-python#2031 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Windows11：ERROR: ERROR: Failed to build installable wheels for some pyproject.toml based projects (llama-cpp-python) Abierto

abetlen/llama-cpp-python#2035 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Inferencing Flan-T5 - GGML_ASSERT error Abierto

abetlen/llama-cpp-python#2038 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026

abetlen

Recibe los nuevos issues en tu correo