Monitoring: Health checks for endpoints

未关闭
#987 0 条评论 0 个 reaction 已指派 1 人 在 GitHub 查看

@Prajna1999 已经在做这个了。

开始于 2026年6月30日。

  • #1021 来自 @Prajna1999 —— 未关闭

评估

这个 Issue 还没有评估数据。

描述

enhancement

Is your feature request related to a problem?
We lack visibility into the health of our most used endpoints (llm/call, evaluation/, llm/chain). When an endpoint goes down, we only discover it through failures. We currently do have monitoring and alerts in place to track PENDING jobs which remain in that state for longer than expected, but this is retroactive behavior.

Describe the solution you'd like
Include:

  • Multiple endpoints (llm/call)
  • Multiple providers (Google, OpenAI, Sarvam, Elevenlabs etc.)
  • All supported modalities (text, STT, TTS)

Ensure it remains minimal and low-cost:

  • Use a short sentence/phrase as probe input to minimize API costs
  • Focus on endpoint health signals rather than a complete monitoring framework
主要语言
Python
星标
18
派生
10
平均合并
2 天 20 小时
30 天内合并 PR
14

贡献指南

打开贡献指南

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

ProjectTech4DevAI/kaapi-backend 的其他 Issue

查看 ProjectTech4DevAI/kaapi-backend 的全部 Issue

相似的 Issue

更多 Python Issue

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。