ValueError: Model path does not exist

未关闭

#1,233 创建于 2024年2月29日 1 条评论 1 个 reaction 已指派 0 人在 GitHub 查看

描述

I am trying to load GGUF models and some of them are giving me the following error:

ValueError(f"Failed to load model from file: {path_model}")

Specs:

- 1 x H100 80GB PCIe, 32 vCPU 188 GB RAM

CUDA version: 11.8

Ubuntu 22.04.2 LTS

pytorch:3.10

llama-cpp-python: 0.2.52

这个 Issue 还没有评估数据。