Propietario

abetlen

4 repositorios indexados · Ver en GitHub

ggml-python
Python bindings for ggml

Python · 152 estrellas
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 estrellas
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 estrellas
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 estrellas

Abierto Todos

568 issues abiertos indexados

TypeError: 'add_special_tokens' is an invalid keyword argument for encode() Abierto

bug

abetlen/llama-cpp-python#1250 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
mpt-7b-storywrier-4bit-km-gguf-file -- not loading - missing one tensor Abierto

abetlen/llama-cpp-python#1251 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Does this lib support contrastive search decoding ? Abierto

enhancement

abetlen/llama-cpp-python#1253 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Failed to run on Intel GPUs Abierto

abetlen/llama-cpp-python#1268 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Installation error I couldn't solve it in any way Abierto

abetlen/llama-cpp-python#1270 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Qwen 72B GGUF needs manual rope frequency with llama-cpp-python, llama.cpp gets it right Abierto

bug

abetlen/llama-cpp-python#1271 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Unclear and differing computation of conditional tokens' log probabilities Abierto

abetlen/llama-cpp-python#1276 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Unable to build SYCL Abierto

abetlen/llama-cpp-python#1277 · 7 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Add command-r support like llamacpp has Abierto

enhancement

abetlen/llama-cpp-python#1279 · 5 comentarios · 11 reacciones · 0 asignados · Indexado el 13/9/2026
Failed to load shared library \venv\Lib\site-packages\llama_cpp\llama.dll Abierto

bug

abetlen/llama-cpp-python#1280 · 6 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
building a whl for android, issues with cmake Abierto

abetlen/llama-cpp-python#1284 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
(llama-cpp-python v0.2.57) RuntimeError: Failed to get embeddings from sequence pooling type is not set Abierto

bug

abetlen/llama-cpp-python#1288 · 15 comentarios · 11 reacciones · 0 asignados · Indexado el 13/9/2026
enabling cache slows generation Abierto

abetlen/llama-cpp-python#1293 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
ARM architecture cannot be installed Abierto

abetlen/llama-cpp-python#1300 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
ValueError: Failed to create llama_context Abierto

abetlen/llama-cpp-python#1304 · 10 comentarios · 5 reacciones · 0 asignados · Indexado el 13/9/2026
Fine tuned model does not work (GGUF, q4_k medium) Abierto

abetlen/llama-cpp-python#1309 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama-cpp-python bindings not working for multiple GPUs Abierto

question

abetlen/llama-cpp-python#1310 · 6 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
why is it so slower than origin llava1.5 model? Abierto

question

abetlen/llama-cpp-python#1313 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Even after installing CUDA + Pytorch + LLamaCPP Python I see BLAS = 0 always Abierto

abetlen/llama-cpp-python#1315 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
using `cmake .. -DBUILD_SHARED_LIBS=ON` failed Abierto

question

abetlen/llama-cpp-python#1321 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Not selecting the tokens with the highest probabilities with temperature 0 Abierto

bug

abetlen/llama-cpp-python#1322 · 7 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Mistral 7b crashes permanently with GPU Abierto

bug

abetlen/llama-cpp-python#1326 · 10 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Enable / Add llama.cpp.python server --parallel | -np N | --n_parallel N Abierto

abetlen/llama-cpp-python#1329 · 3 comentarios · 8 reacciones · 0 asignados · Indexado el 13/9/2026
Models with multiple chat templates Abierto

enhancement

abetlen/llama-cpp-python#1336 · 7 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Allow any format for X-Request-Id Abierto

enhancement

abetlen/llama-cpp-python#1337 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
`function_call` and `tool_choice` didn't have "auto" feature implemented Abierto

abetlen/llama-cpp-python#1338 · 4 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Hermes 2 Pro Full Chat Format Support Abierto

enhancement

abetlen/llama-cpp-python#1339 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
Add hashes to GitHub Pages PEP503 index Abierto

abetlen/llama-cpp-python#1340 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Support for arm64 wheels and CPU Features Abierto

abetlen/llama-cpp-python#1342 · 11 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Enable Proxying Copilot Requests to External LLMs (Claude, etc.) Abierto

abetlen/llama-cpp-python#1343 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Attribute Error: /llama.cpp/libllama.so: undefined symbol: llama_numa_init Abierto

abetlen/llama-cpp-python#1346 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Mixtral 8x22b models not generating responses once loaded. Abierto

abetlen/llama-cpp-python#1348 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Cannot build with CUDA on Win11 Abierto

abetlen/llama-cpp-python#1352 · 7 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama cpp python server for llava slow token per second Abierto

abetlen/llama-cpp-python#1354 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Docker: Missing library transformers when HF_PRETRAINED_MODEL_NAME_OR_PATH is provided Abierto

abetlen/llama-cpp-python#1355 · 1 comentario · 1 reacción · 0 asignados · Indexado el 13/9/2026
Add llama-cpp-python to Debian repositories Abierto

abetlen/llama-cpp-python#1358 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama-cpp-python[server] using the wrong port and not accepting port arguments. Abierto

abetlen/llama-cpp-python#1359 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Is loading of control vectors supported? Abierto

enhancement

abetlen/llama-cpp-python#1363 · 1 comentario · 1 reacción · 0 asignados · Indexado el 13/9/2026
Cache misses previous generation Abierto

abetlen/llama-cpp-python#1369 · 7 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
Difference between Model and Server Configs? Abierto

abetlen/llama-cpp-python#1379 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
llama-cpp-python trigger OpenCL failure, has difference with triggering original c++ code directly Abierto

abetlen/llama-cpp-python#1381 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Can't install GPU version for windows for many times. Abierto

abetlen/llama-cpp-python#1393 · 10 comentarios · 2 reacciones · 0 asignados · Indexado el 13/9/2026
How to import photos into LLM llava? Abierto

abetlen/llama-cpp-python#1395 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Implementation of LlamaDiskCache lacks capacity setting. Abierto

abetlen/llama-cpp-python#1402 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Multimodal Llama3 Support Abierto

abetlen/llama-cpp-python#1403 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
jinja2.exceptions.UndefinedError: 'dict object' has no attribute 'name' when running Functions.ipynb with Jupyter lab Abierto

abetlen/llama-cpp-python#1405 · 3 comentarios · 4 reacciones · 0 asignados · Indexado el 13/9/2026
Which Python + CUDA version do you recommend for LLaVA on Windows 10 Pro 64-bit? Abierto

abetlen/llama-cpp-python#1418 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
ValueError: could not broadcast input array from shape (371,) into shape (320,) Abierto

abetlen/llama-cpp-python#1421 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Docker image Abierto

abetlen/llama-cpp-python#1423 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Add Nous Hermes 2 Pro function calling ChatHandler. Abierto

enhancement

abetlen/llama-cpp-python#1429 · 1 comentario · 1 reacción · 0 asignados · Indexado el 13/9/2026

abetlen

Recibe los nuevos issues en tu correo