abetlen / abetlen/llama-cpp-python

[Workaround] Failed to load shared library (mach-o file, but is an incompatible architecture (have 'x86_64', need 'arm64'))

Aberta
#724 5 comentários 3 reações 0 responsáveis Ver no GitHub
bug
Linguagem predominante
Python
Estrelas
10.6k
Forks
1.4k
Métricas de merge de PRs
Métricas de PR pendentes

Descrição

This issue comes up on some Mac M series environments where cmake builds the llama.cpp shared library for the wrong architecture. The solution is to reinstall llama-cpp-python with:

```
CMAKE_ARGS="-DCMAKE_OSX_ARCHITECTURES=arm64" pip install --upgrade --verbose --force-reinstall --no-cache-dir llama-cpp-python
```

If anyone has a good way to automatically detect this in the CMakeLists.txt please let me know.

Guia de contribuição

Abrir o guia de contribuição

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.