Propietario

abetlen

4 repositorios indexados · Ver en GitHub

ggml-python
Python bindings for ggml

Python · 152 estrellas
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 estrellas
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 estrellas
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 estrellas

Abierto Todos

568 issues abiertos indexados

Intel GPU not enabled when using -DLLAVA_BUILD=OFF Abierto

abetlen/llama-cpp-python#1851 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Windows with Intel GPU fails to build if Ninja is not the selected backend Abierto

abetlen/llama-cpp-python#1852 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
With Intel GPU on Windows, llama_perf_context_print reports invalid performance metrics Abierto

abetlen/llama-cpp-python#1853 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Request to publish CUDA builds for v0.3.2 to GitHub Releases Abierto

abetlen/llama-cpp-python#1854 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama_get_logits_ith: invalid logits id -1, reason: no logits Abierto

abetlen/llama-cpp-python#1855 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
"tool_calls" not returning on native http request on a llama cpp server Abierto

abetlen/llama-cpp-python#1856 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Confusion regarding operation/terminology of speculative decoding and sampling Abierto

abetlen/llama-cpp-python#1865 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
It seems that LlamaSamplingContext is no longer in use. Abierto

abetlen/llama-cpp-python#1866 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
chatml-function-callling not adding tool description to the prompt. Abierto

abetlen/llama-cpp-python#1869 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Mambaforge breaks cuda builds, switch to miniforge? Abierto

abetlen/llama-cpp-python#1870 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Using a pre-built wheel currently requires specifying the right version, e.g. llama-cpp-python==0.3.4 Abierto

abetlen/llama-cpp-python#1872 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Setting verbose=False issues with threads Abierto

abetlen/llama-cpp-python#1874 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
issue tying to install on WSL Abierto

abetlen/llama-cpp-python#1876 · 4 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
ROCM Build Target or Build Instructions are incorrect Abierto

abetlen/llama-cpp-python#1880 · 2 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
How to create .so file for llama-cpp-python please help! Abierto

abetlen/llama-cpp-python#1881 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Feature request: add support for streaming tool use Abierto

abetlen/llama-cpp-python#1883 · 3 comentarios · 8 reacciones · 0 asignados · Indexado el 13/9/2026
MiniCPM-V 2.6 memory leak occurred !!! Abierto

abetlen/llama-cpp-python#1886 · 5 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
The C compiler identification is unknown Abierto

abetlen/llama-cpp-python#1888 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Implementation doubt Abierto

abetlen/llama-cpp-python#1889 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Dependency issues with uvicorn Abierto

abetlen/llama-cpp-python#1892 · 4 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
cohere2 architecture issue Abierto

abetlen/llama-cpp-python#1893 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Does it support the gguf format model of Qwen2-VL-2B-Instruct Abierto

abetlen/llama-cpp-python#1895 · 7 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama_cpp_python-0.3.4-cp310-CU12 deepseekv3 /home/runner/work/llama-cpp-python/llama-cpp-python/vendor/llama.cpp/src/llama.cpp:5474: GGML_ASSERT(hparams.n_expert <= LLAMA_MAX_EXPERTS) failed Abierto

abetlen/llama-cpp-python#1896 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Generate answer from embedding vectors Abierto

abetlen/llama-cpp-python#1897 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Question - Batch Processing Abierto

abetlen/llama-cpp-python#1902 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
OSError: exception: access violation reading 0x0000000000000000 Abierto

abetlen/llama-cpp-python#1903 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Add minicpm-o and qwen2-vl to the list of supported multimodal models. Abierto

abetlen/llama-cpp-python#1904 · 11 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
Wrong chat format for llava 1.5 Abierto

abetlen/llama-cpp-python#1905 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
openai API `n` argument is ignored Abierto

abetlen/llama-cpp-python#1906 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
openai API `max_completion_tokens` argument is ignored Abierto

abetlen/llama-cpp-python#1907 · 0 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
pip install llama-cpp-python got stuck forever at "Configuring CMake" in docker Abierto

abetlen/llama-cpp-python#1908 · 4 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
Automate upstream llama.cpp sync Abierto

abetlen/llama-cpp-python#1910 · 3 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
RPC is broken due to change of interface in llama.cpp main repository (rpc : early register backend devices #11262) Abierto

abetlen/llama-cpp-python#1914 · 5 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Cuda Build Failed, Please take a look at this Abierto

abetlen/llama-cpp-python#1915 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
How to run CLIP model on GPU? Abierto

abetlen/llama-cpp-python#1916 · 2 comentarios · 5 reacciones · 0 asignados · Indexado el 13/9/2026
See `No CUDA toolset found` log after `-- CUDA Toolkit found.` log Abierto

abetlen/llama-cpp-python#1917 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Macos Metal Github Release for python 3.12 is broken Abierto

abetlen/llama-cpp-python#1918 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Distributed Inference Abierto

abetlen/llama-cpp-python#1921 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Unable to Build llama-cpp-python with Vulkan (Core Dump on Model Load) Abierto

abetlen/llama-cpp-python#1923 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Installing Llama cpp python on Debian with no git installed throws an error Abierto

abetlen/llama-cpp-python#1924 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Please release a cuda build for v0.3.5 Abierto

abetlen/llama-cpp-python#1925 · 9 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
`llama.cpp` transfer Abierto

abetlen/llama-cpp-python#1931 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Failed building wheel for llama-cpp-python Abierto

abetlen/llama-cpp-python#1932 · 6 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
I cannot install this package with cuda12.4 Abierto

abetlen/llama-cpp-python#1933 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Using OpenBlas to accelerate has no effect？ Abierto

abetlen/llama-cpp-python#1935 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Getting seg faults intermittently prior to streaming generation Abierto

abetlen/llama-cpp-python#1936 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Segmentation fault when converting embeddings into tensor Abierto

abetlen/llama-cpp-python#1937 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
No GPU usage, occupied VRAM but only CPU is working Abierto

abetlen/llama-cpp-python#1939 · 9 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
-- CUDA Toolkit found Abierto

abetlen/llama-cpp-python#1941 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
CMake build failed //Building wheel for llama-cpp-python (pyproject.toml) ... error Abierto

abetlen/llama-cpp-python#1943 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026

abetlen

Recibe los nuevos issues en tu correo