abetlen / abetlen/llama-cpp-python

After choosing to offload all layers onto the GPU, the Ram used for model loading is not released

オープン
#1,964 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

My graphics card was RTX3060 12G, the model used was Qwen2.5-7B-instruct-Q4_k_M, normally the model should only take up 4~5G VRam, so I thought the VRam of my GPU was sufficient to handle the quantization model, but I found that my Ram was occupied all the time. The amount of Ram used by each application in windows Task Manager is inconsistent with the actual total Ram usage in Windows Task Manager, and it will not be released until I finish the python script, is the Ram usage necessary or is it just a BUG?

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。