AI-Hypercomputer / AI-Hypercomputer/JetStream
Question: `prometheus_port` flag for pytorch server
Đang mở
- Ngôn ngữ chính
- Python
- Star
- 457
- Fork
- 67
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
https://github.com/AI-Hypercomputer/JetStream/blob/main/docs/observability-prometheus-metrics-in-jetstream-server.md only mentions the `prometheus_port` if the jetstream runs with `maxengine_server`.
However, such option doesn't exist under https://github.com/AI-Hypercomputer/jetstream-pytorch. I wonder if `jetstream-pytorch` also expose prometheus metrics related to the inference server?
Hướng dẫn đóng góp
Đánh giá
Issue này chưa được đánh giá.