Almenon / Almenon/hotdogdetector

WARNING utils.py L37: For better inference performance, please install exllamav2 kernel

未關閉
#1 1 則留言 0 個 reaction 已指派 0 人 在 GitHub 檢視
主要語言
Python
星號
0
分支
0
PR 合併指標
30 天內沒有已合併 PR

描述

This warning appears during AI initialization when running `python main.py`. Better inference performance would be nice because inference is pretty slow on old hardware.

> WARNING utils.py L37: For better inference performance, please install exllamav2 kernel via `pip install git+https://github.com/AutoGPTQ/AutoGPTQ.git@b8b4127`

貢獻指南

這個儲存庫沒有索引到貢獻指南

評估

這個 Issue 還沒有評估資料。

把新 issue 寄到你的電子郵件信箱

精選適合新手參與的 GitHub issue 摘要。