AI-Hypercomputer / AI-Hypercomputer/JetStream

Question: `prometheus_port` flag for pytorch server

オープン
#143 コメント 0 件 リアクション 0 件 担当者 1 名 @qihqi が担当を希望しています GitHub で見る
主要言語
Python
スター
457
フォーク
67
PR マージ指標
30日以内にマージされた PR はありません

説明

https://github.com/AI-Hypercomputer/JetStream/blob/main/docs/observability-prometheus-metrics-in-jetstream-server.md only mentions the `prometheus_port` if the jetstream runs with `maxengine_server`.

However, such option doesn't exist under https://github.com/AI-Hypercomputer/jetstream-pytorch. I wonder if `jetstream-pytorch` also expose prometheus metrics related to the inference server?

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。