Chủ sở hữu

abetlen

Đã lập chỉ mục 4 kho mã nguồn · Xem trên GitHub

ggml-python
Python bindings for ggml

Python · 152 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 star

Đang mở Tất cả

Đã lập chỉ mục 568 issue đang mở

Can't get GPU offloading to work Đang mở

abetlen/llama-cpp-python#1112 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Back End Grammar support for Web Server (separate from PR #855) Đang mở

enhancement

abetlen/llama-cpp-python#1113 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Web Server GPU Usage Anomaly Đang mở

abetlen/llama-cpp-python#1114 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Significant loss of performance from v0.2.28 to v0.2.29 on Mac Metal GPU Đang mở

abetlen/llama-cpp-python#1117 · 7 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Smaller docker image CUDA example Đang mở

question

abetlen/llama-cpp-python#1119 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Post Version 2.25 AMD GPU 6650M Models Generate Garbage Output \n \t or # Characters and fail with finish_reason:length Đang mở

bug

abetlen/llama-cpp-python#1121 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Using the GPU is slower than the CPU Đang mở

bug performance

abetlen/llama-cpp-python#1123 · 10 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ERROR: Failed building wheel for llama-cpp-python Đang mở

bug build

abetlen/llama-cpp-python#1125 · 9 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ERROR: Can't install llama-cpp-python[server] WITH CMAKE_ARGS="-DLLAMA_CUBLAS=on" In VERSION 0.2.24 or higher Đang mở

bug build

abetlen/llama-cpp-python#1126 · 12 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
[Missing documentation/functionality]: choices Đang mở

abetlen/llama-cpp-python#1130 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
cc: error: unrecognized command-line option ‘-Wunreachable-code-break’; did you mean ‘-Wunreachable-code’? Đang mở

abetlen/llama-cpp-python#1132 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Intel openAPI (openMKL) CMAKE_ARGS enabled? Đang mở

bug build

abetlen/llama-cpp-python#1133 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Unable to disable "clip_model_load" log messages Đang mở

bug

abetlen/llama-cpp-python#1134 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
llava.cpp has an error on installation in an private server. Đang mở

abetlen/llama-cpp-python#1135 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Anyone built with vulkan yet? Đang mở

question

abetlen/llama-cpp-python#1138 · 15 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Question: How to keep longer conversations without breaking the code? Đang mở

abetlen/llama-cpp-python#1139 · 3 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Images can not be decoded when using image_url with webp base64 from LibreChat Đang mở

bug

abetlen/llama-cpp-python#1140 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Retrieve attention score for all input tokens per generated token Đang mở

enhancement question

abetlen/llama-cpp-python#1141 · 11 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Problem with ChatCompletionMessage when using cuBLAS and Mistral. Đang mở

bug

abetlen/llama-cpp-python#1144 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Streaming LlamaCPP in Langserve or FastAPI Đang mở

abetlen/llama-cpp-python#1148 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Vulkan: Save and load state cause crashes (GGML_ASSERT) Đang mở

abetlen/llama-cpp-python#1149 · 1 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
could not find llama.dll Đang mở

abetlen/llama-cpp-python#1150 · 4 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add the possibility to pass all the generation parameters to the API of the server Đang mở

enhancement

abetlen/llama-cpp-python#1151 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Is there support for running multiple requests at the same time? Đang mở

abetlen/llama-cpp-python#1153 · 1 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
setting n_gpu_layers to 0 or -1 still tries to use the gpu llamaindex Đang mở

abetlen/llama-cpp-python#1158 · 6 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Have you thought about adding quantum cache or 8 bit cache? Đang mở

enhancement

abetlen/llama-cpp-python#1161 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Install with SYCL support - Symbols not found: [ _Z11fmax_commonDv32_fS_S_ ] Đang mở

abetlen/llama-cpp-python#1167 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Docker llama-cpp libcuda.so.1: cannot open shared object file: No such file or directory Đang mở

abetlen/llama-cpp-python#1169 · 15 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Compatibility with LibreChat: According to Librechat, the server is not serving a OpenAI complaint API for mistral models with llama.cpp chat format `mistral-instruct` Đang mở

abetlen/llama-cpp-python#1174 · 1 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Improve installation process Đang mở

enhancement help wanted

abetlen/llama-cpp-python#1178 · 9 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Capture the stop token upon termination Đang mở

abetlen/llama-cpp-python#1182 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
I'm loading a gguf but llama-python-cpp says "is it really a GGML file" ??? Đang mở

abetlen/llama-cpp-python#1191 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
[query] Inputting Json to llama cpp and getting output into txt file ? Đang mở

abetlen/llama-cpp-python#1192 · 4 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
OpenAI compatible server returns empty chat completion Đang mở

abetlen/llama-cpp-python#1195 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Inconsistent Output Generation Despite Consistent Log Probabilities Đang mở

abetlen/llama-cpp-python#1196 · 2 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Emojis in grammar causes crash Đang mở

abetlen/llama-cpp-python#1199 · 1 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Bug dependecies conflict Đang mở

abetlen/llama-cpp-python#1201 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
[Implement Optimization] Skip Inference for Predefined Tokens in Response Formatting Đang mở

enhancement

abetlen/llama-cpp-python#1203 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Could not Install llama-cpp-python Đang mở

abetlen/llama-cpp-python#1216 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
I cant run Llama() function on GPU Đang mở

abetlen/llama-cpp-python#1221 · 5 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
llama_cpp.server save chat log Đang mở

enhancement

abetlen/llama-cpp-python#1224 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
CUDA_ARCHITECTURES is empty for target "llava_shared" when install llama-cpp-python Đang mở

abetlen/llama-cpp-python#1227 · 3 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Set User Agent for Llava15ChatHandler load_image() Đang mở

abetlen/llama-cpp-python#1229 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
meteor lake support not functionnal Đang mở

abetlen/llama-cpp-python#1231 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
ValueError: Model path does not exist Đang mở

abetlen/llama-cpp-python#1233 · 1 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
PydanticImportError: `pydantic:parse_raw_as` has been removed in V2. Đang mở

abetlen/llama-cpp-python#1238 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
tensor read out of bounds Đang mở

abetlen/llama-cpp-python#1241 · 0 bình luận · 0 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Add Self-Extend support? Đang mở

enhancement

abetlen/llama-cpp-python#1242 · 6 bình luận · 5 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
verbose doesn't work + writing non-error messages to stderr Đang mở

abetlen/llama-cpp-python#1245 · 5 bình luận · 1 reaction · 0 người được giao · Lập chỉ mục 13/9/2026
Allow server to load multiple models at the same time Đang mở

abetlen/llama-cpp-python#1249 · 0 bình luận · 23 reaction · 0 người được giao · Lập chỉ mục 13/9/2026

abetlen

Nhận issue mới trong hộp thư của bạn