abetlen / abetlen/llama-cpp-python

Assertion Error while Loading a Phi2 GGUF Model via llama-cpp-python

オープン
#1,076 コメント 4 件 リアクション 1 件 担当者 0 名 GitHub で見る
bug
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

I am Trying to Load Phi2 GGUF Model via `llama-cpp-python` dependency
The Model I am trying to load is this:
https://huggingface.co/TheBloke/phi-2-GGUF

I am Getting this Error while I am trying to Load the Model:
Screenshot 2024-01-10 at 2 23 26 PM

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。