Propriétaire

abetlen

4 dépôts indexés · Voir sur GitHub

ggml-python
Python bindings for ggml

Python · 152 étoiles
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 étoiles
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 étoiles
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 étoiles

Ouverte Toutes

568 issues ouvertes indexées

TypeError: 'add_special_tokens' is an invalid keyword argument for encode() Ouverte

bug

abetlen/llama-cpp-python#1250 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
mpt-7b-storywrier-4bit-km-gguf-file -- not loading - missing one tensor Ouverte

abetlen/llama-cpp-python#1251 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Does this lib support contrastive search decoding ? Ouverte

enhancement

abetlen/llama-cpp-python#1253 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Failed to run on Intel GPUs Ouverte

abetlen/llama-cpp-python#1268 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Installation error I couldn't solve it in any way Ouverte

abetlen/llama-cpp-python#1270 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Qwen 72B GGUF needs manual rope frequency with llama-cpp-python, llama.cpp gets it right Ouverte

bug

abetlen/llama-cpp-python#1271 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Unclear and differing computation of conditional tokens' log probabilities Ouverte

abetlen/llama-cpp-python#1276 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Unable to build SYCL Ouverte

abetlen/llama-cpp-python#1277 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Add command-r support like llamacpp has Ouverte

enhancement

abetlen/llama-cpp-python#1279 · 5 commentaires · 11 réactions · 0 personnes assignées · Indexée le 13/9/2026
Failed to load shared library \venv\Lib\site-packages\llama_cpp\llama.dll Ouverte

bug

abetlen/llama-cpp-python#1280 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
building a whl for android, issues with cmake Ouverte

abetlen/llama-cpp-python#1284 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
(llama-cpp-python v0.2.57) RuntimeError: Failed to get embeddings from sequence pooling type is not set Ouverte

bug

abetlen/llama-cpp-python#1288 · 15 commentaires · 11 réactions · 0 personnes assignées · Indexée le 13/9/2026
enabling cache slows generation Ouverte

abetlen/llama-cpp-python#1293 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
ARM architecture cannot be installed Ouverte

abetlen/llama-cpp-python#1300 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
ValueError: Failed to create llama_context Ouverte

abetlen/llama-cpp-python#1304 · 10 commentaires · 5 réactions · 0 personnes assignées · Indexée le 13/9/2026
Fine tuned model does not work (GGUF, q4_k medium) Ouverte

abetlen/llama-cpp-python#1309 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama-cpp-python bindings not working for multiple GPUs Ouverte

question

abetlen/llama-cpp-python#1310 · 6 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
why is it so slower than origin llava1.5 model? Ouverte

question

abetlen/llama-cpp-python#1313 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Even after installing CUDA + Pytorch + LLamaCPP Python I see BLAS = 0 always Ouverte

abetlen/llama-cpp-python#1315 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
using `cmake .. -DBUILD_SHARED_LIBS=ON` failed Ouverte

question

abetlen/llama-cpp-python#1321 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Not selecting the tokens with the highest probabilities with temperature 0 Ouverte

bug

abetlen/llama-cpp-python#1322 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Mistral 7b crashes permanently with GPU Ouverte

bug

abetlen/llama-cpp-python#1326 · 10 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Enable / Add llama.cpp.python server --parallel | -np N | --n_parallel N Ouverte

abetlen/llama-cpp-python#1329 · 3 commentaires · 8 réactions · 0 personnes assignées · Indexée le 13/9/2026
Models with multiple chat templates Ouverte

enhancement

abetlen/llama-cpp-python#1336 · 7 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Allow any format for X-Request-Id Ouverte

enhancement

abetlen/llama-cpp-python#1337 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
`function_call` and `tool_choice` didn't have "auto" feature implemented Ouverte

abetlen/llama-cpp-python#1338 · 4 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Hermes 2 Pro Full Chat Format Support Ouverte

enhancement

abetlen/llama-cpp-python#1339 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Add hashes to GitHub Pages PEP503 index Ouverte

abetlen/llama-cpp-python#1340 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Support for arm64 wheels and CPU Features Ouverte

abetlen/llama-cpp-python#1342 · 11 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Enable Proxying Copilot Requests to External LLMs (Claude, etc.) Ouverte

abetlen/llama-cpp-python#1343 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Attribute Error: /llama.cpp/libllama.so: undefined symbol: llama_numa_init Ouverte

abetlen/llama-cpp-python#1346 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Mixtral 8x22b models not generating responses once loaded. Ouverte

abetlen/llama-cpp-python#1348 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Cannot build with CUDA on Win11 Ouverte

abetlen/llama-cpp-python#1352 · 7 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama cpp python server for llava slow token per second Ouverte

abetlen/llama-cpp-python#1354 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Docker: Missing library transformers when HF_PRETRAINED_MODEL_NAME_OR_PATH is provided Ouverte

abetlen/llama-cpp-python#1355 · 1 commentaire · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Add llama-cpp-python to Debian repositories Ouverte

abetlen/llama-cpp-python#1358 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama-cpp-python[server] using the wrong port and not accepting port arguments. Ouverte

abetlen/llama-cpp-python#1359 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Is loading of control vectors supported? Ouverte

enhancement

abetlen/llama-cpp-python#1363 · 1 commentaire · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
Cache misses previous generation Ouverte

abetlen/llama-cpp-python#1369 · 7 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
Difference between Model and Server Configs? Ouverte

abetlen/llama-cpp-python#1379 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
llama-cpp-python trigger OpenCL failure, has difference with triggering original c++ code directly Ouverte

abetlen/llama-cpp-python#1381 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Can't install GPU version for windows for many times. Ouverte

abetlen/llama-cpp-python#1393 · 10 commentaires · 2 réactions · 0 personnes assignées · Indexée le 13/9/2026
How to import photos into LLM llava? Ouverte

abetlen/llama-cpp-python#1395 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Implementation of LlamaDiskCache lacks capacity setting. Ouverte

abetlen/llama-cpp-python#1402 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Multimodal Llama3 Support Ouverte

abetlen/llama-cpp-python#1403 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
jinja2.exceptions.UndefinedError: 'dict object' has no attribute 'name' when running Functions.ipynb with Jupyter lab Ouverte

abetlen/llama-cpp-python#1405 · 3 commentaires · 4 réactions · 0 personnes assignées · Indexée le 13/9/2026
Which Python + CUDA version do you recommend for LLaVA on Windows 10 Pro 64-bit? Ouverte

abetlen/llama-cpp-python#1418 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
ValueError: could not broadcast input array from shape (371,) into shape (320,) Ouverte

abetlen/llama-cpp-python#1421 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Docker image Ouverte

abetlen/llama-cpp-python#1423 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Add Nous Hermes 2 Pro function calling ChatHandler. Ouverte

enhancement

abetlen/llama-cpp-python#1429 · 1 commentaire · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026

abetlen

Recevez les nouvelles issues par e-mail