Proprietário

abetlen

4 repositórios indexados · Ver no GitHub

ggml-python
Python bindings for ggml

Python · 152 estrelas
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 estrelas
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 estrelas
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 estrelas

Abertas Todas

568 issues abertas indexadas

TypeError: 'add_special_tokens' is an invalid keyword argument for encode() Aberta

bug

abetlen/llama-cpp-python#1250 · 0 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
mpt-7b-storywrier-4bit-km-gguf-file -- not loading - missing one tensor Aberta

abetlen/llama-cpp-python#1251 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Does this lib support contrastive search decoding ? Aberta

enhancement

abetlen/llama-cpp-python#1253 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Failed to run on Intel GPUs Aberta

abetlen/llama-cpp-python#1268 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Installation error I couldn't solve it in any way Aberta

abetlen/llama-cpp-python#1270 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Qwen 72B GGUF needs manual rope frequency with llama-cpp-python, llama.cpp gets it right Aberta

bug

abetlen/llama-cpp-python#1271 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Unclear and differing computation of conditional tokens' log probabilities Aberta

abetlen/llama-cpp-python#1276 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Unable to build SYCL Aberta

abetlen/llama-cpp-python#1277 · 7 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Add command-r support like llamacpp has Aberta

enhancement

abetlen/llama-cpp-python#1279 · 5 comentários · 11 reações · 0 responsáveis · Indexada em 13/9/2026
Failed to load shared library \venv\Lib\site-packages\llama_cpp\llama.dll Aberta

bug

abetlen/llama-cpp-python#1280 · 6 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
building a whl for android, issues with cmake Aberta

abetlen/llama-cpp-python#1284 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
(llama-cpp-python v0.2.57) RuntimeError: Failed to get embeddings from sequence pooling type is not set Aberta

bug

abetlen/llama-cpp-python#1288 · 15 comentários · 11 reações · 0 responsáveis · Indexada em 13/9/2026
enabling cache slows generation Aberta

abetlen/llama-cpp-python#1293 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
ARM architecture cannot be installed Aberta

abetlen/llama-cpp-python#1300 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
ValueError: Failed to create llama_context Aberta

abetlen/llama-cpp-python#1304 · 10 comentários · 5 reações · 0 responsáveis · Indexada em 13/9/2026
Fine tuned model does not work (GGUF, q4_k medium) Aberta

abetlen/llama-cpp-python#1309 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
llama-cpp-python bindings not working for multiple GPUs Aberta

question

abetlen/llama-cpp-python#1310 · 6 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
why is it so slower than origin llava1.5 model? Aberta

question

abetlen/llama-cpp-python#1313 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Even after installing CUDA + Pytorch + LLamaCPP Python I see BLAS = 0 always Aberta

abetlen/llama-cpp-python#1315 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
using `cmake .. -DBUILD_SHARED_LIBS=ON` failed Aberta

question

abetlen/llama-cpp-python#1321 · 0 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Not selecting the tokens with the highest probabilities with temperature 0 Aberta

bug

abetlen/llama-cpp-python#1322 · 7 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Mistral 7b crashes permanently with GPU Aberta

bug

abetlen/llama-cpp-python#1326 · 10 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Enable / Add llama.cpp.python server --parallel | -np N | --n_parallel N Aberta

abetlen/llama-cpp-python#1329 · 3 comentários · 8 reações · 0 responsáveis · Indexada em 13/9/2026
Models with multiple chat templates Aberta

enhancement

abetlen/llama-cpp-python#1336 · 7 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Allow any format for X-Request-Id Aberta

enhancement

abetlen/llama-cpp-python#1337 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
`function_call` and `tool_choice` didn't have "auto" feature implemented Aberta

abetlen/llama-cpp-python#1338 · 4 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Hermes 2 Pro Full Chat Format Support Aberta

enhancement

abetlen/llama-cpp-python#1339 · 0 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Add hashes to GitHub Pages PEP503 index Aberta

abetlen/llama-cpp-python#1340 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Support for arm64 wheels and CPU Features Aberta

abetlen/llama-cpp-python#1342 · 11 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Enable Proxying Copilot Requests to External LLMs (Claude, etc.) Aberta

abetlen/llama-cpp-python#1343 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Attribute Error: /llama.cpp/libllama.so: undefined symbol: llama_numa_init Aberta

abetlen/llama-cpp-python#1346 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Mixtral 8x22b models not generating responses once loaded. Aberta

abetlen/llama-cpp-python#1348 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Cannot build with CUDA on Win11 Aberta

abetlen/llama-cpp-python#1352 · 7 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
llama cpp python server for llava slow token per second Aberta

abetlen/llama-cpp-python#1354 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Docker: Missing library transformers when HF_PRETRAINED_MODEL_NAME_OR_PATH is provided Aberta

abetlen/llama-cpp-python#1355 · 1 comentário · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Add llama-cpp-python to Debian repositories Aberta

abetlen/llama-cpp-python#1358 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
llama-cpp-python[server] using the wrong port and not accepting port arguments. Aberta

abetlen/llama-cpp-python#1359 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Is loading of control vectors supported? Aberta

enhancement

abetlen/llama-cpp-python#1363 · 1 comentário · 1 reação · 0 responsáveis · Indexada em 13/9/2026
Cache misses previous generation Aberta

abetlen/llama-cpp-python#1369 · 7 comentários · 2 reações · 0 responsáveis · Indexada em 13/9/2026
Difference between Model and Server Configs? Aberta

abetlen/llama-cpp-python#1379 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
llama-cpp-python trigger OpenCL failure, has difference with triggering original c++ code directly Aberta

abetlen/llama-cpp-python#1381 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Can't install GPU version for windows for many times. Aberta

abetlen/llama-cpp-python#1393 · 10 comentários · 2 reações · 0 responsáveis · Indexada em 13/9/2026
How to import photos into LLM llava? Aberta

abetlen/llama-cpp-python#1395 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Implementation of LlamaDiskCache lacks capacity setting. Aberta

abetlen/llama-cpp-python#1402 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Multimodal Llama3 Support Aberta

abetlen/llama-cpp-python#1403 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
jinja2.exceptions.UndefinedError: 'dict object' has no attribute 'name' when running Functions.ipynb with Jupyter lab Aberta

abetlen/llama-cpp-python#1405 · 3 comentários · 4 reações · 0 responsáveis · Indexada em 13/9/2026
Which Python + CUDA version do you recommend for LLaVA on Windows 10 Pro 64-bit? Aberta

abetlen/llama-cpp-python#1418 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
ValueError: could not broadcast input array from shape (371,) into shape (320,) Aberta

abetlen/llama-cpp-python#1421 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Docker image Aberta

abetlen/llama-cpp-python#1423 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Add Nous Hermes 2 Pro function calling ChatHandler. Aberta

enhancement

abetlen/llama-cpp-python#1429 · 1 comentário · 1 reação · 0 responsáveis · Indexada em 13/9/2026

abetlen

Receba novas issues na sua caixa de entrada