Propriétaire

abetlen

5 dépôts indexés · Voir sur GitHub

llama-cpp-python
Python bindings for llama.cpp

Python · 10616 étoiles
ggml-python
Python bindings for ggml

Python · 152 étoiles
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 étoiles
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 étoiles
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 étoiles

Ouverte Toutes

613 issues ouvertes indexées

"tool_calls" not returning on native http request on a llama cpp server Ouverte

abetlen/llama-cpp-python#1856 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Confusion regarding operation/terminology of speculative decoding and sampling Ouverte

abetlen/llama-cpp-python#1865 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
It seems that LlamaSamplingContext is no longer in use. Ouverte

abetlen/llama-cpp-python#1866 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
chatml-function-callling not adding tool description to the prompt. Ouverte

abetlen/llama-cpp-python#1869 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Mambaforge breaks cuda builds, switch to miniforge? Ouverte

abetlen/llama-cpp-python#1870 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Using a pre-built wheel currently requires specifying the right version, e.g. llama-cpp-python==0.3.4 Ouverte

abetlen/llama-cpp-python#1872 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Setting verbose=False issues with threads Ouverte

abetlen/llama-cpp-python#1874 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
issue tying to install on WSL Ouverte

abetlen/llama-cpp-python#1876 · 4 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
ROCM Build Target or Build Instructions are incorrect Ouverte

abetlen/llama-cpp-python#1880 · 2 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
How to create .so file for llama-cpp-python please help! Ouverte

abetlen/llama-cpp-python#1881 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Feature request: add support for streaming tool use Ouverte

abetlen/llama-cpp-python#1883 · 3 commentaires · 8 réactions · 0 personnes assignées · Indexée le 13/9/2026
MiniCPM-V 2.6 memory leak occurred !!! Ouverte

abetlen/llama-cpp-python#1886 · 5 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
The C compiler identification is unknown Ouverte

abetlen/llama-cpp-python#1888 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Implementation doubt Ouverte

abetlen/llama-cpp-python#1889 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Dependency issues with uvicorn Ouverte

abetlen/llama-cpp-python#1892 · 4 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
cohere2 architecture issue Ouverte

abetlen/llama-cpp-python#1893 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Does it support the gguf format model of Qwen2-VL-2B-Instruct Ouverte

abetlen/llama-cpp-python#1895 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama_cpp_python-0.3.4-cp310-CU12 deepseekv3 /home/runner/work/llama-cpp-python/llama-cpp-python/vendor/llama.cpp/src/llama.cpp:5474: GGML_ASSERT(hparams.n_expert <= LLAMA_MAX_EXPERTS) failed Ouverte

abetlen/llama-cpp-python#1896 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Generate answer from embedding vectors Ouverte

abetlen/llama-cpp-python#1897 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Question - Batch Processing Ouverte

abetlen/llama-cpp-python#1902 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
OSError: exception: access violation reading 0x0000000000000000 Ouverte

abetlen/llama-cpp-python#1903 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Add minicpm-o and qwen2-vl to the list of supported multimodal models. Ouverte

abetlen/llama-cpp-python#1904 · 11 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Wrong chat format for llava 1.5 Ouverte

abetlen/llama-cpp-python#1905 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
openai API `n` argument is ignored Ouverte

abetlen/llama-cpp-python#1906 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
openai API `max_completion_tokens` argument is ignored Ouverte

abetlen/llama-cpp-python#1907 · 0 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
pip install llama-cpp-python got stuck forever at "Configuring CMake" in docker Ouverte

abetlen/llama-cpp-python#1908 · 4 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Automate upstream llama.cpp sync Ouverte

abetlen/llama-cpp-python#1910 · 3 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
RPC is broken due to change of interface in llama.cpp main repository (rpc : early register backend devices #11262) Ouverte

abetlen/llama-cpp-python#1914 · 5 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Cuda Build Failed, Please take a look at this Ouverte

abetlen/llama-cpp-python#1915 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
How to run CLIP model on GPU? Ouverte

abetlen/llama-cpp-python#1916 · 2 commentaires · 5 réactions · 0 personnes assignées · Indexée le 13/9/2026
See `No CUDA toolset found` log after `-- CUDA Toolkit found.` log Ouverte

abetlen/llama-cpp-python#1917 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Macos Metal Github Release for python 3.12 is broken Ouverte

abetlen/llama-cpp-python#1918 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Distributed Inference Ouverte

abetlen/llama-cpp-python#1921 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Unable to Build llama-cpp-python with Vulkan (Core Dump on Model Load) Ouverte

abetlen/llama-cpp-python#1923 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Installing Llama cpp python on Debian with no git installed throws an error Ouverte

abetlen/llama-cpp-python#1924 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Please release a cuda build for v0.3.5 Ouverte

abetlen/llama-cpp-python#1925 · 9 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
`llama.cpp` transfer Ouverte

abetlen/llama-cpp-python#1931 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Failed building wheel for llama-cpp-python Ouverte

abetlen/llama-cpp-python#1932 · 6 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
I cannot install this package with cuda12.4 Ouverte

abetlen/llama-cpp-python#1933 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Using OpenBlas to accelerate has no effect？ Ouverte

abetlen/llama-cpp-python#1935 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Getting seg faults intermittently prior to streaming generation Ouverte

abetlen/llama-cpp-python#1936 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Segmentation fault when converting embeddings into tensor Ouverte

abetlen/llama-cpp-python#1937 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
No GPU usage, occupied VRAM but only CPU is working Ouverte

abetlen/llama-cpp-python#1939 · 9 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
-- CUDA Toolkit found Ouverte

abetlen/llama-cpp-python#1941 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
CMake build failed //Building wheel for llama-cpp-python (pyproject.toml) ... error Ouverte

abetlen/llama-cpp-python#1943 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
CUDA Memory Allocation Failure and mlock Memory Lock Issue in llama-cpp-python Ouverte

abetlen/llama-cpp-python#1944 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
OK!!! ggml_cuda_init: found 1 CUDA devices: Ouverte

abetlen/llama-cpp-python#1945 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
The results generated are different from those produced by executing commands with the llama cpp library Ouverte

abetlen/llama-cpp-python#1946 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
ERROR: Failed building wheel for llama-cpp-python Failed to build llama-cpp-python ERROR: Could not build wheels for llama-cpp-python which use PEP 517 and cannot be installed directly Ouverte

abetlen/llama-cpp-python#1947 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
successfully installed !! CUDA/v12.6 !! Visual Studio 2022!! Ouverte

abetlen/llama-cpp-python#1948 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026

abetlen

Recevez les nouvelles issues par e-mail