Owner

abetlen

已索引 4 个仓库 · 在 GitHub 查看

ggml-python
Python bindings for ggml

Python · 152 个 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 个 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 个 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 个 star

未关闭全部

目前已索引 568 个未关闭的 Issue

TypeError: 'add_special_tokens' is an invalid keyword argument for encode() 未关闭

bug

abetlen/llama-cpp-python#1250 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
mpt-7b-storywrier-4bit-km-gguf-file -- not loading - missing one tensor 未关闭

abetlen/llama-cpp-python#1251 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Does this lib support contrastive search decoding ? 未关闭

enhancement

abetlen/llama-cpp-python#1253 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Failed to run on Intel GPUs 未关闭

abetlen/llama-cpp-python#1268 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Installation error I couldn't solve it in any way 未关闭

abetlen/llama-cpp-python#1270 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Qwen 72B GGUF needs manual rope frequency with llama-cpp-python, llama.cpp gets it right 未关闭

bug

abetlen/llama-cpp-python#1271 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Unclear and differing computation of conditional tokens' log probabilities 未关闭

abetlen/llama-cpp-python#1276 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Unable to build SYCL 未关闭

abetlen/llama-cpp-python#1277 · 7 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add command-r support like llamacpp has 未关闭

enhancement

abetlen/llama-cpp-python#1279 · 5 条评论 · 11 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Failed to load shared library \venv\Lib\site-packages\llama_cpp\llama.dll 未关闭

bug

abetlen/llama-cpp-python#1280 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
building a whl for android, issues with cmake 未关闭

abetlen/llama-cpp-python#1284 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
(llama-cpp-python v0.2.57) RuntimeError: Failed to get embeddings from sequence pooling type is not set 未关闭

bug

abetlen/llama-cpp-python#1288 · 15 条评论 · 11 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
enabling cache slows generation 未关闭

abetlen/llama-cpp-python#1293 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ARM architecture cannot be installed 未关闭

abetlen/llama-cpp-python#1300 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ValueError: Failed to create llama_context 未关闭

abetlen/llama-cpp-python#1304 · 10 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Fine tuned model does not work (GGUF, q4_k medium) 未关闭

abetlen/llama-cpp-python#1309 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-cpp-python bindings not working for multiple GPUs 未关闭

question

abetlen/llama-cpp-python#1310 · 6 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
why is it so slower than origin llava1.5 model? 未关闭

question

abetlen/llama-cpp-python#1313 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Even after installing CUDA + Pytorch + LLamaCPP Python I see BLAS = 0 always 未关闭

abetlen/llama-cpp-python#1315 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
using `cmake .. -DBUILD_SHARED_LIBS=ON` failed 未关闭

question

abetlen/llama-cpp-python#1321 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Not selecting the tokens with the highest probabilities with temperature 0 未关闭

bug

abetlen/llama-cpp-python#1322 · 7 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Mistral 7b crashes permanently with GPU 未关闭

bug

abetlen/llama-cpp-python#1326 · 10 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Enable / Add llama.cpp.python server --parallel | -np N | --n_parallel N 未关闭

abetlen/llama-cpp-python#1329 · 3 条评论 · 8 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Models with multiple chat templates 未关闭

enhancement

abetlen/llama-cpp-python#1336 · 7 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Allow any format for X-Request-Id 未关闭

enhancement

abetlen/llama-cpp-python#1337 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
`function_call` and `tool_choice` didn't have "auto" feature implemented 未关闭

abetlen/llama-cpp-python#1338 · 4 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Hermes 2 Pro Full Chat Format Support 未关闭

enhancement

abetlen/llama-cpp-python#1339 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add hashes to GitHub Pages PEP503 index 未关闭

abetlen/llama-cpp-python#1340 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support for arm64 wheels and CPU Features 未关闭

abetlen/llama-cpp-python#1342 · 11 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Enable Proxying Copilot Requests to External LLMs (Claude, etc.) 未关闭

abetlen/llama-cpp-python#1343 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Attribute Error: /llama.cpp/libllama.so: undefined symbol: llama_numa_init 未关闭

abetlen/llama-cpp-python#1346 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Mixtral 8x22b models not generating responses once loaded. 未关闭

abetlen/llama-cpp-python#1348 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Cannot build with CUDA on Win11 未关闭

abetlen/llama-cpp-python#1352 · 7 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama cpp python server for llava slow token per second 未关闭

abetlen/llama-cpp-python#1354 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Docker: Missing library transformers when HF_PRETRAINED_MODEL_NAME_OR_PATH is provided 未关闭

abetlen/llama-cpp-python#1355 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add llama-cpp-python to Debian repositories 未关闭

abetlen/llama-cpp-python#1358 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-cpp-python[server] using the wrong port and not accepting port arguments. 未关闭

abetlen/llama-cpp-python#1359 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Is loading of control vectors supported? 未关闭

enhancement

abetlen/llama-cpp-python#1363 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Cache misses previous generation 未关闭

abetlen/llama-cpp-python#1369 · 7 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Difference between Model and Server Configs? 未关闭

abetlen/llama-cpp-python#1379 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-cpp-python trigger OpenCL failure, has difference with triggering original c++ code directly 未关闭

abetlen/llama-cpp-python#1381 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Can't install GPU version for windows for many times. 未关闭

abetlen/llama-cpp-python#1393 · 10 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How to import photos into LLM llava? 未关闭

abetlen/llama-cpp-python#1395 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Implementation of LlamaDiskCache lacks capacity setting. 未关闭

abetlen/llama-cpp-python#1402 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Multimodal Llama3 Support 未关闭

abetlen/llama-cpp-python#1403 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
jinja2.exceptions.UndefinedError: 'dict object' has no attribute 'name' when running Functions.ipynb with Jupyter lab 未关闭

abetlen/llama-cpp-python#1405 · 3 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Which Python + CUDA version do you recommend for LLaVA on Windows 10 Pro 64-bit? 未关闭

abetlen/llama-cpp-python#1418 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ValueError: could not broadcast input array from shape (371,) into shape (320,) 未关闭

abetlen/llama-cpp-python#1421 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Docker image 未关闭

abetlen/llama-cpp-python#1423 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add Nous Hermes 2 Pro function calling ChatHandler. 未关闭

enhancement

abetlen/llama-cpp-python#1429 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日

abetlen

把新 issue 发到你的邮箱