abetlen / abetlen/llama-cpp-python

Add support for auto setting n_gpu_layers from gguf and available vram size

オープン
#1,456 コメント 0 件 リアクション 4 件 担当者 0 名 GitHub で見る
enhancement
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

この issue には説明がありません。

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。