Owner

abetlen

4 indexierte Repositories · Auf GitHub ansehen

ggml-python
Python bindings for ggml

Python · 152 Sterne
sqlite3-bfsvtab-ext
A virtual table extension for breadth-first search queries in Sqlite3

C · 39 Sterne
pikchr-js
The Pikchr markup language for diagrams, running in your browser

C · 8 Sterne
simdinfo
Small C library for SIMD feature detection at runtime

C · 6 Sterne

Offen Alle

Bisher 568 Issues indexiert

Are thread locals strictly necessary? Offen

abetlen/simdinfo#1 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Non-integer keys Offen

abetlen/sqlite3-bfsvtab-ext#1 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Custom node neighbour filtering and ordering Offen

abetlen/sqlite3-bfsvtab-ext#2 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Build options for MacOS and Windows Offen

abetlen/sqlite3-bfsvtab-ext#5 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Debug and Release Builds Offen

abetlen/sqlite3-bfsvtab-ext#9 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Version and Changelog Offen

abetlen/sqlite3-bfsvtab-ext#10 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
How to use GPU? Offen

build hardware

abetlen/llama-cpp-python#576 · 21 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
The maximum full path to an object file is 250 characters (see CMAKE_OBJECT_PATH_MAX) Offen

build

abetlen/llama-cpp-python#582 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ggml_new_tensor_impl: not enough space in the context's memory pool Offen

llama.cpp

abetlen/llama-cpp-python#585 · 11 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
LLAMA_ASSERT: ....../llama-cpp-python/vendor/llama.cpp/llama.cpp:1800: !!kv_self.ctx Offen

llama.cpp

abetlen/llama-cpp-python#586 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Gibberish responses with Llama-2-13B Offen

model quality

abetlen/llama-cpp-python#596 · 9 Kommentare · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Dynamically intterupt token generation Offen

enhancement

abetlen/llama-cpp-python#599 · 0 Kommentare · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Output of emojis seems to be somewhat broken Offen

bug quality

abetlen/llama-cpp-python#608 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
OSError: [WinError -1073741795] Windows Error 0xc000001d Offen

duplicate

abetlen/llama-cpp-python#609 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Different generation in llama.cpp and llama-cpp-python Offen

model quality

abetlen/llama-cpp-python#619 · 13 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CLBast: -DBUILD_SHARED_LIBS=OFF required to build against CLBlast Offen

build llama.cpp

abetlen/llama-cpp-python#623 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Failed to detect a default CUDA architecture Offen

build hardware

abetlen/llama-cpp-python#627 · 10 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Increase server timeout for long requests Offen

enhancement

abetlen/llama-cpp-python#634 · 3 Kommentare · 3 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Documentation of server command line parameters. Offen

documentation

abetlen/llama-cpp-python#635 · 8 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Support passing grammars to server on the command line. Offen

enhancement

abetlen/llama-cpp-python#636 · 0 Kommentare · 4 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Newlines in generation when using grammar Offen

model quality

abetlen/llama-cpp-python#637 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Freezing when running two serves in parallel on different GPUs Offen

bug llama.cpp

abetlen/llama-cpp-python#639 · 1 Kommentar · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
AssertionError when using LLama Offen

llama.cpp model

abetlen/llama-cpp-python#643 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Installation via pip fails for ROCm / AMD cards Offen

build llama.cpp

abetlen/llama-cpp-python#646 · 15 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
loading error in llama cpp /llama2 Offen

model

abetlen/llama-cpp-python#653 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Unable to activate the Cublas while running a python file which implements the llamachain using the llamacpp Offen

build

abetlen/llama-cpp-python#658 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
generation hangs forever Offen

bug performance

abetlen/llama-cpp-python#659 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Arabic language Offen

question

abetlen/llama-cpp-python#665 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
OSError: exception: access violation reading 0xFFFFFFFFFFFFFFFF Offen

bug

abetlen/llama-cpp-python#666 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Failed building wheel for llama-cpp-python Offen

bug build

abetlen/llama-cpp-python#676 · 3 Kommentare · 2 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Memory allocation challenges with LlamaCppEmbeddings on M1 Mac Offen

bug

abetlen/llama-cpp-python#687 · 4 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CMAKE_ARGS="-DLLAMA_HIPBLAS=on" FORCE_CMAKE=1 pip install llama-cpp-python==0.1.78 Offen

bug build

abetlen/llama-cpp-python#695 · 20 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
i am trying to include prompt in llm but getting validation error how can i include because i am using pandas dataframe agent it is looping until timelimit Offen

bug

abetlen/llama-cpp-python#697 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Problem with the CMake installation, aborting build. Offen

bug build

abetlen/llama-cpp-python#698 · 6 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
implement prompt template for chat completion Offen

enhancement

abetlen/llama-cpp-python#717 · 37 Kommentare · 8 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Install with pytorch own cudatoolkit? Offen

bug build

abetlen/llama-cpp-python#720 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Problem to install llama-cpp-python on Windows 10 with GPU NVidia Support CUBlast, BLAS = 0 Offen

bug build

abetlen/llama-cpp-python#721 · 35 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
not installing Offen

bug build

abetlen/llama-cpp-python#722 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[Workaround] Failed to load shared library (mach-o file, but is an incompatible architecture (have 'x86_64', need 'arm64')) Offen

bug

abetlen/llama-cpp-python#724 · 5 Kommentare · 3 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Out of Memory Offen

bug

abetlen/llama-cpp-python#725 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
OSError: [WinError -1073741795] Windows Error 0xc000001d Offen

bug

abetlen/llama-cpp-python#728 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
I have some params in llama.cpp but i cant see in this repo Offen

question

abetlen/llama-cpp-python#731 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Can't compile llama-cpp-python in any way. Offen

bug build

abetlen/llama-cpp-python#734 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[FR] Auto-load/unload models to save memory when unused Offen

enhancement server

abetlen/llama-cpp-python#736 · 0 Kommentare · 20 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[Q] Is the prompt/chat history stored on disk? Offen

question

abetlen/llama-cpp-python#737 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Fail to install llama-cpp-python Offen

bug build

abetlen/llama-cpp-python#738 · 7 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
FileNotFoundError: Shared library with base name 'llama' not found #MACOS Offen

bug build

abetlen/llama-cpp-python#739 · 7 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
llama-cpp-python crashing on CUBLAS and CLBLAST with std::length_error Offen

bug

abetlen/llama-cpp-python#740 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Publish all wheels to PyPI Offen

enhancement

abetlen/llama-cpp-python#741 · 5 Kommentare · 3 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Docker GPU installation works in interactive mode but not in the dockerfile Offen

abetlen/llama-cpp-python#742 · 2 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026

abetlen

Neue Issues direkt in Ihr Postfach