Owner

abetlen

4 indexierte Repositories · Auf GitHub ansehen

ggml-python
Python bindings for ggml

Python · 152 Sterne
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 Sterne
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 Sterne
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 Sterne

Offen Alle

Bisher 568 offene Issues indexiert

TypeError: 'add_special_tokens' is an invalid keyword argument for encode() Offen

bug

abetlen/llama-cpp-python#1250 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
mpt-7b-storywrier-4bit-km-gguf-file -- not loading - missing one tensor Offen

abetlen/llama-cpp-python#1251 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Does this lib support contrastive search decoding ? Offen

enhancement

abetlen/llama-cpp-python#1253 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Failed to run on Intel GPUs Offen

abetlen/llama-cpp-python#1268 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Installation error I couldn't solve it in any way Offen

abetlen/llama-cpp-python#1270 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Qwen 72B GGUF needs manual rope frequency with llama-cpp-python, llama.cpp gets it right Offen

bug

abetlen/llama-cpp-python#1271 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Unclear and differing computation of conditional tokens' log probabilities Offen

abetlen/llama-cpp-python#1276 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Unable to build SYCL Offen

abetlen/llama-cpp-python#1277 · 7 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add command-r support like llamacpp has Offen

enhancement

abetlen/llama-cpp-python#1279 · 5 Kommentare · 11 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Failed to load shared library \venv\Lib\site-packages\llama_cpp\llama.dll Offen

bug

abetlen/llama-cpp-python#1280 · 6 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
building a whl for android, issues with cmake Offen

abetlen/llama-cpp-python#1284 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
(llama-cpp-python v0.2.57) RuntimeError: Failed to get embeddings from sequence pooling type is not set Offen

bug

abetlen/llama-cpp-python#1288 · 15 Kommentare · 11 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
enabling cache slows generation Offen

abetlen/llama-cpp-python#1293 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ARM architecture cannot be installed Offen

abetlen/llama-cpp-python#1300 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ValueError: Failed to create llama_context Offen

abetlen/llama-cpp-python#1304 · 10 Kommentare · 5 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Fine tuned model does not work (GGUF, q4_k medium) Offen

abetlen/llama-cpp-python#1309 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
llama-cpp-python bindings not working for multiple GPUs Offen

question

abetlen/llama-cpp-python#1310 · 6 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
why is it so slower than origin llava1.5 model? Offen

question

abetlen/llama-cpp-python#1313 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Even after installing CUDA + Pytorch + LLamaCPP Python I see BLAS = 0 always Offen

abetlen/llama-cpp-python#1315 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
using `cmake .. -DBUILD_SHARED_LIBS=ON` failed Offen

question

abetlen/llama-cpp-python#1321 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Not selecting the tokens with the highest probabilities with temperature 0 Offen

bug

abetlen/llama-cpp-python#1322 · 7 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Mistral 7b crashes permanently with GPU Offen

bug

abetlen/llama-cpp-python#1326 · 10 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Enable / Add llama.cpp.python server --parallel | -np N | --n_parallel N Offen

abetlen/llama-cpp-python#1329 · 3 Kommentare · 8 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Models with multiple chat templates Offen

enhancement

abetlen/llama-cpp-python#1336 · 7 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Allow any format for X-Request-Id Offen

enhancement

abetlen/llama-cpp-python#1337 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
`function_call` and `tool_choice` didn't have "auto" feature implemented Offen

abetlen/llama-cpp-python#1338 · 4 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Hermes 2 Pro Full Chat Format Support Offen

enhancement

abetlen/llama-cpp-python#1339 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add hashes to GitHub Pages PEP503 index Offen

abetlen/llama-cpp-python#1340 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Support for arm64 wheels and CPU Features Offen

abetlen/llama-cpp-python#1342 · 11 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Enable Proxying Copilot Requests to External LLMs (Claude, etc.) Offen

abetlen/llama-cpp-python#1343 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Attribute Error: /llama.cpp/libllama.so: undefined symbol: llama_numa_init Offen

abetlen/llama-cpp-python#1346 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Mixtral 8x22b models not generating responses once loaded. Offen

abetlen/llama-cpp-python#1348 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Cannot build with CUDA on Win11 Offen

abetlen/llama-cpp-python#1352 · 7 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
llama cpp python server for llava slow token per second Offen

abetlen/llama-cpp-python#1354 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Docker: Missing library transformers when HF_PRETRAINED_MODEL_NAME_OR_PATH is provided Offen

abetlen/llama-cpp-python#1355 · 1 Kommentar · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add llama-cpp-python to Debian repositories Offen

abetlen/llama-cpp-python#1358 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
llama-cpp-python[server] using the wrong port and not accepting port arguments. Offen

abetlen/llama-cpp-python#1359 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Is loading of control vectors supported? Offen

enhancement

abetlen/llama-cpp-python#1363 · 1 Kommentar · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Cache misses previous generation Offen

abetlen/llama-cpp-python#1369 · 7 Kommentare · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Difference between Model and Server Configs? Offen

abetlen/llama-cpp-python#1379 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
llama-cpp-python trigger OpenCL failure, has difference with triggering original c++ code directly Offen

abetlen/llama-cpp-python#1381 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Can't install GPU version for windows for many times. Offen

abetlen/llama-cpp-python#1393 · 10 Kommentare · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
How to import photos into LLM llava? Offen

abetlen/llama-cpp-python#1395 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Implementation of LlamaDiskCache lacks capacity setting. Offen

abetlen/llama-cpp-python#1402 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Multimodal Llama3 Support Offen

abetlen/llama-cpp-python#1403 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
jinja2.exceptions.UndefinedError: 'dict object' has no attribute 'name' when running Functions.ipynb with Jupyter lab Offen

abetlen/llama-cpp-python#1405 · 3 Kommentare · 4 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Which Python + CUDA version do you recommend for LLaVA on Windows 10 Pro 64-bit? Offen

abetlen/llama-cpp-python#1418 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ValueError: could not broadcast input array from shape (371,) into shape (320,) Offen

abetlen/llama-cpp-python#1421 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Docker image Offen

abetlen/llama-cpp-python#1423 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Add Nous Hermes 2 Pro function calling ChatHandler. Offen

enhancement

abetlen/llama-cpp-python#1429 · 1 Kommentar · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026

abetlen

Neue Issues direkt in Ihr Postfach