abetlen / abetlen/llama-cpp-python

Assertion Error while Loading a Phi2 GGUF Model via llama-cpp-python

未关闭
#1,076 4 条评论 1 个 reaction 已指派 0 人 在 GitHub 查看
bug
主要语言
Python
星标
10.6k
派生
1.4k
PR 合并指标
PR 指标待抓取

描述

I am Trying to Load Phi2 GGUF Model via `llama-cpp-python` dependency
The Model I am trying to load is this:
https://huggingface.co/TheBloke/phi-2-GGUF

I am Getting this Error while I am trying to Load the Model:
Screenshot 2024-01-10 at 2 23 26 PM

贡献指南

打开贡献指南

评估

这个 Issue 还没有评估数据。

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。