abetlen / abetlen/llama-cpp-python
Invalid magic number when trying to load model
Abierto
bug
- Lenguaje dominante
- Python
- Estrellas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PR
- Métricas de PR pendientes
Descripción
I'm trying to load a model but I'm getting the below issue.
Command: ./main -m ./models/Llama-2-7b-Chat-GGUF/llama-2-7b-chat.Q4_0.gguf -n 128
Guía de contribución
Evaluación
Este issue todavía no se ha evaluado.