ValueError: Model path does not exist

未關閉

#1,233 建立於 2024年2月29日 1 則留言 1 個 reaction 已指派 0 人在 GitHub 檢視

描述

I am trying to load GGUF models and some of them are giving me the following error:

ValueError(f"Failed to load model from file: {path_model}")

Specs:

- 1 x H100 80GB PCIe, 32 vCPU 188 GB RAM

CUDA version: 11.8

Ubuntu 22.04.2 LTS

pytorch:3.10

llama-cpp-python: 0.2.52

這個 Issue 還沒有評估資料。