abetlen / abetlen/llama-cpp-python

Invalid magic number when trying to load model

Aberta
#755 4 comentários 0 reações 0 responsáveis Ver no GitHub
bug
Linguagem predominante
Python
Estrelas
10.6k
Forks
1.4k
Métricas de merge de PRs
Métricas de PR pendentes

Descrição

I'm trying to load a model but I'm getting the below issue.

Command: ./main -m ./models/Llama-2-7b-Chat-GGUF/llama-2-7b-chat.Q4_0.gguf -n 128

Screen Shot 2023-09-26 at 10 00 11 AM

Guia de contribuição

Abrir o guia de contribuição

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.