abetlen / abetlen/llama-cpp-python

ValueError: Model path does not exist

Offen
#1,233 1 Kommentar 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
10.6k
Forks
1.4k
PR-Merge-Kennzahlen
PR-Kennzahlen ausstehend

Beschreibung

I am trying to load GGUF models and some of them are giving me the following error:

ValueError(f"Failed to load model from file: {path_model}")

Specs:

- 1 x H100 80GB PCIe, 32 vCPU 188 GB RAM

CUDA version: 11.8

Ubuntu 22.04.2 LTS

pytorch:3.10

llama-cpp-python: 0.2.52

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.