Propriétaire

abetlen

4 dépôts indexés · Voir sur GitHub

ggml-python
Python bindings for ggml

Python · 152 étoiles
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 étoiles
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 étoiles
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 étoiles

Ouverte Toutes

568 issues ouvertes indexées

CUDA Memory Allocation Failure and mlock Memory Lock Issue in llama-cpp-python Ouverte

abetlen/llama-cpp-python#1944 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
OK!!! ggml_cuda_init: found 1 CUDA devices: Ouverte

abetlen/llama-cpp-python#1945 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
The results generated are different from those produced by executing commands with the llama cpp library Ouverte

abetlen/llama-cpp-python#1946 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
ERROR: Failed building wheel for llama-cpp-python Failed to build llama-cpp-python ERROR: Could not build wheels for llama-cpp-python which use PEP 517 and cannot be installed directly Ouverte

abetlen/llama-cpp-python#1947 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
successfully installed !! CUDA/v12.6 !! Visual Studio 2022!! Ouverte

abetlen/llama-cpp-python#1948 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
DeepSeek-R1-Distill-Qwen-1.5B inference answer is wrong Ouverte

abetlen/llama-cpp-python#1949 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Publish the latest llama.cpp? Ouverte

abetlen/llama-cpp-python#1951 · 2 commentaires · 4 réactions · 0 personnes assignées · Indexée le 13/9/2026
更新llama cpp，目前不支持deepseek r1以及蒸馏模型 Ouverte

abetlen/llama-cpp-python#1952 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Workflow Example for CUDA 12.6 Windows Ouverte

abetlen/llama-cpp-python#1954 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Support for phi 4 mini Ouverte

abetlen/llama-cpp-python#1955 · 3 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
Could not install llama-cpp-python 0.3.7 on Macbook Air M1 - Compilation issue Ouverte

abetlen/llama-cpp-python#1956 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Prebuild WHL, Cuda 12.1 win10 python 3.10 Ouverte

abetlen/llama-cpp-python#1960 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Models loading on CPU instead of GPU after updating version Ouverte

abetlen/llama-cpp-python#1962 · 4 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Steps to Build and Install llama-cpp-python 0.3.7 w/CUDA on Windows 11 [06/03/2025] Ouverte

abetlen/llama-cpp-python#1963 · 3 commentaires · 6 réactions · 0 personnes assignées · Indexée le 13/9/2026
After choosing to offload all layers onto the GPU, the Ram used for model loading is not released Ouverte

abetlen/llama-cpp-python#1964 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Issue with Installing llama-cpp-python 0.3.7: Dependency Problems with scikit-build-core Ouverte

abetlen/llama-cpp-python#1965 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
GPU Support Missing in Version >=0.3.5 on Windows with CUDA 12.4 and RTX 3090 Ouverte

abetlen/llama-cpp-python#1967 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Metal installation documentation Ouverte

abetlen/llama-cpp-python#1968 · 0 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support for Python 3.13 in llama-cpp-python? Ouverte

abetlen/llama-cpp-python#1970 · 0 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
How to predict a specific length of tokens? Ouverte

abetlen/llama-cpp-python#1975 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Gemma3 Multimodal Ouverte

abetlen/llama-cpp-python#1976 · 3 commentaires · 4 réactions · 0 personnes assignées · Indexée le 13/9/2026
Set GGML_BUILD_NUMBER to the correct version when building from pypi tarball Ouverte

abetlen/llama-cpp-python#1979 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
HIP enabled binary, or allow me to replace with my own llama binary Ouverte

abetlen/llama-cpp-python#1982 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Slow when logits_all=True, inconsistent logprobs and solutions Ouverte

abetlen/llama-cpp-python#1983 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Stream last block not return token usage info when create_chat_completion_openai_v1 or create_chat_completion but server does Ouverte

abetlen/llama-cpp-python#1984 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
CUDA llama-cpp-python build failed. Ouverte

abetlen/llama-cpp-python#1986 · 4 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Intel Mac (i9 - 5500M) (macOS 15.3.2) - ValueError: Failed to create llama_context - llama_init_from_model: failed to initialize Metal backend Ouverte

abetlen/llama-cpp-python#1988 · 1 commentaire · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
cu118 install falls back to CPU mode on CentOS 7 (0.3.8) Ouverte

abetlen/llama-cpp-python#1990 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Incorrect winmode in load_shared_library Ouverte

abetlen/llama-cpp-python#1993 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Llama 4 not working Ouverte

abetlen/llama-cpp-python#1994 · 8 commentaires · 9 réactions · 0 personnes assignées · Indexée le 13/9/2026
Wrong `chat_format` documented for Moondream 2 Ouverte

abetlen/llama-cpp-python#1996 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Running basic example from docs results in `TypeError: 'NoneType' object is not callable` Ouverte

abetlen/llama-cpp-python#1998 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
How to use *chat_template* with .gguf models ? (tokenizer_name not implemented) Ouverte

abetlen/llama-cpp-python#1999 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
TypeError: 'NoneType' object is not callable in __del__() when exiting Ouverte

abetlen/llama-cpp-python#2002 · 0 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Segmentation fault (core dumped) appearing randomly Ouverte

abetlen/llama-cpp-python#2005 · 4 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
LLAMA Compiling with Vulkan Ouverte

abetlen/llama-cpp-python#2006 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama-cpp-python 0.3.8 with CUDA Ouverte

abetlen/llama-cpp-python#2010 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
How to install the latest version with GPU support Ouverte

abetlen/llama-cpp-python#2012 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Can't install with GPU support with Cuda toolkit 12.9 and Cuda 12.9 Ouverte

abetlen/llama-cpp-python#2013 · 22 commentaires · 8 réactions · 0 personnes assignées · Indexée le 13/9/2026
Is llama-cpp-python supports Llama-4? Ouverte

abetlen/llama-cpp-python#2014 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Macos wheel fails on 0.35, works on 0.34 Ouverte

abetlen/llama-cpp-python#2016 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Is it possible to run bitnet.cpp through these bindings ? Ouverte

abetlen/llama-cpp-python#2021 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Assertion error when offloading Llama 4 layers to CPU Ouverte

abetlen/llama-cpp-python#2022 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support for jinja for custom chat templates Ouverte

abetlen/llama-cpp-python#2023 · 1 commentaire · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama_cpp/lib/libllama.so: undefined symbol: llama_kv_cache_view_init Ouverte

abetlen/llama-cpp-python#2026 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Building and installing llama_cpp from source for RTX 50 Blackwell GPU Ouverte

abetlen/llama-cpp-python#2028 · 3 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
Access Violation issue facing for exe created using pyinstaller Ouverte

abetlen/llama-cpp-python#2029 · 5 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Gemma 3:4B Multimodal CLIP Error [WinError -529697949] Windows Error 0xe06d7363 Ouverte

abetlen/llama-cpp-python#2031 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Windows11：ERROR: ERROR: Failed to build installable wheels for some pyproject.toml based projects (llama-cpp-python) Ouverte

abetlen/llama-cpp-python#2035 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Inferencing Flan-T5 - GGML_ASSERT error Ouverte

abetlen/llama-cpp-python#2038 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026

abetlen

Recevez les nouvelles issues par e-mail