abetlen / abetlen/llama-cpp-python

Invalid magic number when trying to load model

Offen
#755 4 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
bug
Vorherrschende Sprache
Python
Sterne
10.6k
Forks
1.4k
PR-Merge-Kennzahlen
PR-Kennzahlen ausstehend

Beschreibung

I'm trying to load a model but I'm getting the below issue.

Command: ./main -m ./models/Llama-2-7b-Chat-GGUF/llama-2-7b-chat.Q4_0.gguf -n 128

Screen Shot 2023-09-26 at 10 00 11 AM

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.