Owner

abetlen

已索引 5 个仓库 · 在 GitHub 查看

llama-cpp-python
Python bindings for llama.cpp

Python · 10616 个 star
ggml-python
Python bindings for ggml

Python · 152 个 star
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 个 star
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 个 star
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 个 star

未关闭全部

目前已索引 613 个未关闭的 Issue

Allow python packages to contribute to LlamaChatCompletionHandlerRegistry 未关闭

abetlen/llama-cpp-python#1715 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How to use this model? 未关闭

abetlen/llama-cpp-python#1717 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
No matter how many times I build it, it won't start 未关闭

bug build

abetlen/llama-cpp-python#1719 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
GGML_CUDA_ENABLE_UNIFIED_MEMORY=1　 behavior is strange. 未关闭

abetlen/llama-cpp-python#1720 · 3 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Why don't use gpu 未关闭

abetlen/llama-cpp-python#1723 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How do I customize the Chat format? 未关闭

abetlen/llama-cpp-python#1724 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
flux1-dev-Q8_0.gguf 未关闭

abetlen/llama-cpp-python#1727 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
show how to run inference using minicpm v2.6 未关闭

abetlen/llama-cpp-python#1731 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Scores are stored in a 32-bit NumPy array even when K and V are quantized 未关闭

abetlen/llama-cpp-python#1732 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
phi3 chat format 未关闭

abetlen/llama-cpp-python#1736 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
LLamaDiskCache: needs a RO / 'static' disk cache for RAG use cases 未关闭

abetlen/llama-cpp-python#1737 · 0 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
fatal error: intrin.h: No such file or directory 未关闭

abetlen/llama-cpp-python#1740 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How get output from fine tuned llama3 model(trained with alpaca format dataset) in a json format ? 未关闭

abetlen/llama-cpp-python#1744 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
error when I using the Function Call 未关闭

abetlen/llama-cpp-python#1747 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
CMake Error: CMAKE_CXX_COMPILER not set, after EnableLanguage 未关闭

abetlen/llama-cpp-python#1749 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Change the command to `CMAKE_ARGS="-DGGML_CUDA=on -DLLAVA_BUILD=off" pip install -U llama-cpp-python --force-reinstall --no-cache-dir` solved the problem. 未关闭

abetlen/llama-cpp-python#1754 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Serverless inferencing, basic chatbot style 未关闭

abetlen/llama-cpp-python#1755 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
chatml-function-calling chat format fails to generate multi calls to the same tool 未关闭

abetlen/llama-cpp-python#1756 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Do llama.cpp support input_embeds? 未关闭

abetlen/llama-cpp-python#1757 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Cannot load moondream2 model in colab 未关闭

abetlen/llama-cpp-python#1760 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
`Llama.embed` crashes when `n_batch` > 512 未关闭

bug

abetlen/llama-cpp-python#1762 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Feature request: ability to tokenize a list of strings _or_ keep the tokenizer warm 未关闭

enhancement

abetlen/llama-cpp-python#1763 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
FileNotFoundError: Shared library with base name 'llama' not found 未关闭

abetlen/llama-cpp-python#1764 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Inference Speed is Extremely Slow for 72B Model with Long Contexts 未关闭

abetlen/llama-cpp-python#1767 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[FEAT]: TLS Certificate Support 未关闭

abetlen/llama-cpp-python#1768 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Missing async llm call 未关闭

abetlen/llama-cpp-python#1774 · 0 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
_logger.py: KeyError:5 [bugfix] [patch] 未关闭

abetlen/llama-cpp-python#1778 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-cpp-python not using GPU on google colab 未关闭

abetlen/llama-cpp-python#1780 · 9 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Why is this not working for the current release. UNABLE TO USE GPU 未关闭

abetlen/llama-cpp-python#1781 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Tool parser cannot analysis tool calls string from qwen2.5. 未关闭

abetlen/llama-cpp-python#1784 · 2 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Long Context Generation Crashes Google Colab Instance 未关闭

abetlen/llama-cpp-python#1792 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add reranking support 未关闭

abetlen/llama-cpp-python#1794 · 9 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
top_p = 1 causes deterministic outputs 未关闭

abetlen/llama-cpp-python#1797 · 2 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
`Llama.from_pretrained` should work with `HF_HUB_OFFLINE=1` 未关闭

abetlen/llama-cpp-python#1801 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
low level examples broken after [feat: Update sampling API for llama.cpp (#1742)] 未关闭

abetlen/llama-cpp-python#1803 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Setting seed to -1 (random) or using default LLAMA_DEFAULT_SEED generates a deterministic reply chain 未关闭

abetlen/llama-cpp-python#1809 · 3 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add support of Qwen2vl 未关闭

abetlen/llama-cpp-python#1811 · 4 条评论 · 17 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama_get_logits_ith: invalid logits id -1, reason: no logits 未关闭

abetlen/llama-cpp-python#1812 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Specify GPU Selection (e.g., CUDA:0, CUDA:1) 未关闭

abetlen/llama-cpp-python#1816 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
AttributeError: function 'llama_sampler_init_tail_free' not found after compiling llama.pcc with hipBLAS 未关闭

abetlen/llama-cpp-python#1818 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama-server not using GPU 未关闭

abetlen/llama-cpp-python#1826 · 5 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
sys:1: ResourceWarning: unclosed file <_io.TextIOWrapper name='nul' mode='w' encoding='cp932'> 未关闭

abetlen/llama-cpp-python#1828 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
updated from 0.2.90 to 0.3.2 and now my GPU won't load 未关闭

abetlen/llama-cpp-python#1835 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Error when building wheels on Linux FileNotFoundError: [Errno 2] No such file or directory: 'ninja'` 未关闭

abetlen/llama-cpp-python#1839 · 4 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[INFORMATION REQUEST] Is it possible to build for GPU enabled target on non-GPU host? 未关闭

abetlen/llama-cpp-python#1841 · 10 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Intel GPU not enabled when using -DLLAVA_BUILD=OFF 未关闭

abetlen/llama-cpp-python#1851 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Windows with Intel GPU fails to build if Ninja is not the selected backend 未关闭

abetlen/llama-cpp-python#1852 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
With Intel GPU on Windows, llama_perf_context_print reports invalid performance metrics 未关闭

abetlen/llama-cpp-python#1853 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Request to publish CUDA builds for v0.3.2 to GitHub Releases 未关闭

abetlen/llama-cpp-python#1854 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
llama_get_logits_ith: invalid logits id -1, reason: no logits 未关闭

abetlen/llama-cpp-python#1855 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日

abetlen

把新 issue 发到你的邮箱