オーナー

abetlen

索引済みのリポジトリ 4 件 · GitHub で見る

ggml-python
Python bindings for ggml

Python · スター 152 個
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · スター 39 個
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · スター 8 個
simdinfo
Small C library for SIMD feature detection at runtime

C · スター 6 個

オープンすべて

オープンの issue を 568 件索引しました

Unable to install llama-cpp-python with CUBLAS or CUDA enabled under tensorflow-gpu docker image. オープン

abetlen/llama-cpp-python#1431 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
CUDA Error : CUDA driver version is insufficient for CUDA runtime version オープン

abetlen/llama-cpp-python#1436 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Llama.generate: prefix-match hit is very slow. オープン

abetlen/llama-cpp-python#1437 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Crashing with "IndexError: index 200 is out of bounds for axis 0 with size 200" オープン

abetlen/llama-cpp-python#1438 · コメント 9 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Models are failing to be properly unloaded and freeing up VRAM オープン

bug

abetlen/llama-cpp-python#1442 · コメント 6 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Add support for llava-1-5-phi3-mini オープン

abetlen/llama-cpp-python#1443 · コメント 5 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
arm64 builds for CUDA オープン

enhancement

abetlen/llama-cpp-python#1446 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
GPU memory released for llava multimodal オープン

bug

abetlen/llama-cpp-python#1451 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
"split_mode=2 (row)" not working -- got Aborted オープン

abetlen/llama-cpp-python#1454 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Add support for auto setting n_gpu_layers from gguf and available vram size オープン

enhancement

abetlen/llama-cpp-python#1456 · コメント 0 件 · リアクション 4 件 · 担当者 0 名 · 2026年9月13日に索引
when depoly the llava-cpp-pyton server in k8s as a service , it can only answer questions about the first image オープン

abetlen/llama-cpp-python#1458 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Support PyPI-installed `nvidia-cuda-runtime-cu12` and `nvidia-cublas-cu12` オープン

abetlen/llama-cpp-python#1460 · コメント 0 件 · リアクション 4 件 · 担当者 0 名 · 2026年9月13日に索引
MINGW / MSYS problem オープン

abetlen/llama-cpp-python#1464 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Slow response time and unable for multiple input prompt オープン

abetlen/llama-cpp-python#1466 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
model.tokenize result is different from tranformers tokenizer result オープン

abetlen/llama-cpp-python#1468 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Unexpected output of embed オープン

abetlen/llama-cpp-python#1469 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
when the output is long , llama_decode returned error オープン

abetlen/llama-cpp-python#1470 · コメント 0 件 · リアクション 2 件 · 担当者 0 名 · 2026年9月13日に索引
CUDA: Generate error message for unsupported quantizations like iq4_nl オープン

abetlen/llama-cpp-python#1473 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Segmentation fault error while launching server on Apple Chip (Mac M3) オープン

abetlen/llama-cpp-python#1474 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Please add response_format to create_completion オープン

enhancement

abetlen/llama-cpp-python#1478 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
OS package system builds? (Apt, yum, etc) オープン

abetlen/llama-cpp-python#1480 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
install target fails for llava オープン

abetlen/llama-cpp-python#1481 · コメント 10 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Issues with Llava-v1.6-34b and Llava16ChatHandler オープン

abetlen/llama-cpp-python#1482 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
cohere multilanguage aya model seem can not use response_format feature of llama-cpp-python オープン

abetlen/llama-cpp-python#1483 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Unable to make CMake find gcc and use CUDA Windows 11 CUDA tool kit installed 4gb video ram オープン

abetlen/llama-cpp-python#1485 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Can't install llama-cpp-python with HIPBLAS/ROCm on Windows オープン

abetlen/llama-cpp-python#1489 · コメント 8 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Wrong switches: `unreachable-code-break` and `unreachable-code-return`, at least on Termux オープン

abetlen/llama-cpp-python#1494 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Include usage key in create_completion when streaming オープン

enhancement

abetlen/llama-cpp-python#1498 · コメント 2 件 · リアクション 4 件 · 担当者 0 名 · 2026年9月13日に索引
Improve pre-built wheel CI times by only building llama.cpp once per platform オープン

enhancement

abetlen/llama-cpp-python#1505 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Multi-arch support for pre-built cpu wheel オープン

enhancement

abetlen/llama-cpp-python#1506 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Getting this Error :RuntimeError: Failed to load shared library '/venv/lib/python3.10/site-packages/llama_cpp/libllama.so': libgomp.so.1: cannot open shared object file: No such file or directory オープン

abetlen/llama-cpp-python#1507 · コメント 3 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Trying to Install GPU Version - Getting CMake Error With _CMAKE_CUDA_WHOLE_FLAG オープン

abetlen/llama-cpp-python#1508 · コメント 7 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
GPU Utilization zero when evaluating GGUFs through lm-evaluation オープン

abetlen/llama-cpp-python#1510 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
v0.2.77 seems to crash my computer オープン

abetlen/llama-cpp-python#1511 · コメント 0 件 · リアクション 5 件 · 担当者 0 名 · 2026年9月13日に索引
The compiled libllama.dll could NOT be found. オープン

abetlen/llama-cpp-python#1517 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Do Not Support Qwen2-7B-Instruct-GGUF オープン

abetlen/llama-cpp-python#1521 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
logprobs aren't returned if sampler will reach EOS オープン

bug

abetlen/llama-cpp-python#1528 · コメント 8 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
how to make multiple inference requests from a single model object オープン

abetlen/llama-cpp-python#1529 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Tokenisers not round-tripping a string オープン

abetlen/llama-cpp-python#1531 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Support for MiniCPM-Llama3-V 2.5 / OCR Text Extraction オープン

abetlen/llama-cpp-python#1532 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
compiling the llama.cpp bits ONCE for multiple miniconda envs fails (multiple issues) オープン

abetlen/llama-cpp-python#1534 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
llama-cpp-python not using GPU on colab オープン

abetlen/llama-cpp-python#1535 · コメント 6 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Llama3 instruct prompt template missing BOS token オープン

abetlen/llama-cpp-python#1537 · コメント 6 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Cannot build wheel オープン

abetlen/llama-cpp-python#1538 · コメント 5 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
I want to use pandas profiling but this error is thrown by my system オープン

abetlen/llama-cpp-python#1540 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Recurrent errors in server mode オープン

bug

abetlen/llama-cpp-python#1541 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Not Able To Utilize AMD GPU's オープン

bug

abetlen/llama-cpp-python#1545 · コメント 3 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
How to log raw token generation? オープン

enhancement

abetlen/llama-cpp-python#1546 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
[Question]Does llama-cpp-python support concurrent multiple requests オープン

abetlen/llama-cpp-python#1549 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Hope to add support for GLM4-9b. オープン

abetlen/llama-cpp-python#1554 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引

abetlen

新しい issue をメールで受け取る