abetlen / abetlen/llama-cpp-python
0.18 (and others?) no longer use GPU at all
Aberta
bug
build
- Linguagem predominante
- Python
- Estrelas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PRs
- Métricas de PR pendentes
Descrição
https://github.com/jllllll/llama-cpp-python-cuBLAS-wheels/issues/21#issuecomment-1809000662
If I only install GPU version, fails needing llama cpp python. With both installed, never uses GPU, no mention of offlload as usual, etc.
Guia de contribuição
Avaliação
Esta issue ainda não foi avaliada.