オーナー

abetlen

索引済みのリポジトリ 4 件 · GitHub で見る

ggml-python
Python bindings for ggml

Python · スター 152 個
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · スター 39 個
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · スター 8 個
simdinfo
Small C library for SIMD feature detection at runtime

C · スター 6 個

オープンすべて

オープンの issue を 568 件索引しました

cuBLAS error 15 オープン

bug

abetlen/llama-cpp-python#941 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
How can I extract data from documents in JSON Output Format? オープン

question

abetlen/llama-cpp-python#942 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Build/ Installation problem オープン

bug

abetlen/llama-cpp-python#943 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
pip install fails on Windows 10 with conda installation of CLBlast; C++ Standard Library forbids macroizing the keyword "bool" オープン

bug build

abetlen/llama-cpp-python#945 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Llava/CLIP Models Not Loading Properly オープン

bug

abetlen/llama-cpp-python#946 · コメント 12 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Different gpu buffer behavior using llama-cpp-python[server] vs llama-cpp オープン

bug build

abetlen/llama-cpp-python#948 · コメント 0 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
OpenAI v1 Compatibility in Python API オープン

enhancement

abetlen/llama-cpp-python#950 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Add n_keep parameter to LLama constructor to enable Streaming-LLM オープン

enhancement

abetlen/llama-cpp-python#954 · コメント 1 件 · リアクション 4 件 · 担当者 0 名 · 2026年9月13日に索引
Llama-cpp-python installation issues on MacOS with M2 オープン

bug build

abetlen/llama-cpp-python#956 · コメント 5 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
CUDA/Windows instructions do not work; there is no setup.py オープン

bug documentation

abetlen/llama-cpp-python#965 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Local LLM ISSUE GGML_ASSERT オープン

bug

abetlen/llama-cpp-python#966 · コメント 0 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
deepseek chat_format template オープン

enhancement

abetlen/llama-cpp-python#969 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Getting error OSError: exception: access violation reading 0x000001774F656EC0 オープン

bug

abetlen/llama-cpp-python#970 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Inference speed on windows server 2022 which has Nvidia RTX A4000 オープン

bug performance

abetlen/llama-cpp-python#973 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Loading Multiple Models at Once on Seperate Devices, CUDA error 400 オープン

bug

abetlen/llama-cpp-python#974 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Different embedding results between LlamaCppEmbeddings vs server? オープン

bug

abetlen/llama-cpp-python#975 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
GPU does not work on llamacpp(langchain) , please help. オープン

abetlen/llama-cpp-python#977 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
I want to know how to enable AMD GPU or enable hipBLAS/ROCm on Windows. I tried the official HIP (sdk) and set the relevant environment flags, but it seems to have no effect. BLAS is always at 0. Is there any solution for Windows? Plan? オープン

question

abetlen/llama-cpp-python#978 · コメント 2 件 · リアクション 2 件 · 担当者 0 名 · 2026年9月13日に索引
Add additional function calling models オープン

enhancement

abetlen/llama-cpp-python#979 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
The llama-cpp-python installed using the following method cannot find llama.dll, but the actual llama.dll exists. オープン

bug

abetlen/llama-cpp-python#981 · コメント 9 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
[Question] why i have 40 seconds more for the loading of the model, when i compare with llama-cpp オープン

bug

abetlen/llama-cpp-python#982 · コメント 3 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
max_tokens is None leads to internal server error オープン

bug

abetlen/llama-cpp-python#983 · コメント 4 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Cuda error 1 オープン

bug

abetlen/llama-cpp-python#984 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Support for a limited vocabulary for generation オープン

question

abetlen/llama-cpp-python#998 · コメント 7 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Mixtral A100/H100 performance オープン

bug performance

abetlen/llama-cpp-python#1017 · コメント 3 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
A different value of n_batch gives different logits (llama.cpp_hf) オープン

bug

abetlen/llama-cpp-python#1018 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Multiple GPU incredibly slow inference オープン

bug

abetlen/llama-cpp-python#1026 · コメント 6 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Include in Readme how to Pass Custom Arguments to `llama_cpp.server` in Docker オープン

documentation question

abetlen/llama-cpp-python#1029 · コメント 6 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
cuBLAS on WSL: "no CUDA-capable device is detected" オープン

bug

abetlen/llama-cpp-python#1030 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
LlamaCPP Usage オープン

question

abetlen/llama-cpp-python#1035 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Last message when streaming completion should not be empty オープン

bug

abetlen/llama-cpp-python#1038 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Investigate / improve streaming speed オープン

bug performance

abetlen/llama-cpp-python#1039 · コメント 1 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Permission denied when pulling Docker image オープン

abetlen/llama-cpp-python#1040 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
UnsupportedOperation: fileno in Llava15ChatHandler オープン

bug

abetlen/llama-cpp-python#1041 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
OpenAI Compatible server (Function calling), does not support (jxnl/Instructor), because of Unrecognized schema: {'$ref': '#/$defs/Edge'} オープン

bug

abetlen/llama-cpp-python#1043 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
[WinError 87] The parameter is incorrect : {'winmode': 0} after upgrading from 0.2.23 to 0.2.25 オープン

bug

abetlen/llama-cpp-python#1049 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Support Static File Dir/Root Dir in Server オープン

enhancement

abetlen/llama-cpp-python#1060 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Concurrent request handling オープン

question

abetlen/llama-cpp-python#1062 · コメント 6 件 · リアクション 3 件 · 担当者 0 名 · 2026年9月13日に索引
windows 11 install faild オープン

bug build

abetlen/llama-cpp-python#1063 · コメント 6 件 · リアクション 6 件 · 担当者 0 名 · 2026年9月13日に索引
CUDA error: the provided PTX was compiled with an unsupported toolchain オープン

bug

abetlen/llama-cpp-python#1064 · コメント 5 件 · リアクション 2 件 · 担当者 0 名 · 2026年9月13日に索引
Support for LLMLingua オープン

enhancement

abetlen/llama-cpp-python#1065 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
2.27 and below Cannot Build or Install llama_cpp_python on AMD ROCm HIP POP OS 22.04 CMake Build Failed オープン

bug build

abetlen/llama-cpp-python#1066 · コメント 7 件 · リアクション 2 件 · 担当者 0 名 · 2026年9月13日に索引
Fails when attempting to load llama.dll during Poetry final bootup. オープン

bug

abetlen/llama-cpp-python#1069 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Support for conversion and quantization scripts from llama.ccp オープン

enhancement

abetlen/llama-cpp-python#1074 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Assertion Error while Loading a Phi2 GGUF Model via llama-cpp-python オープン

bug

abetlen/llama-cpp-python#1076 · コメント 4 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Issue in installing llama-cpp-python. オープン

bug build

abetlen/llama-cpp-python#1081 · コメント 6 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Performance degradation running with half a socket in CPU system オープン

bug performance

abetlen/llama-cpp-python#1098 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Problem with importing llama-cpp-python library on Linux CentOS オープン

bug

abetlen/llama-cpp-python#1099 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
cmake build error: identifier "half" is undefined with version 0.2.29 オープン

bug build

abetlen/llama-cpp-python#1100 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Error install on Ubuntu 23.10 (CUDA) オープン

abetlen/llama-cpp-python#1103 · コメント 7 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引

abetlen

新しい issue をメールで受け取る