abetlen / abetlen/llama-cpp-python

Increase server timeout for long requests

オープン
#634 コメント 3 件 リアクション 3 件 担当者 0 名 GitHub で見る
enhancement
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

While operating on the CPU, I am able to observe both the request and completion logs. However, due to the time-consuming nature of the request, the server issues a 504 timeout error before the completion is finalized. Therefore, I kindly propose the inclusion of an ENV variable or a flag that would allow for the adjustment of the server timeout duration.

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。