ProjectTech4DevAI / ProjectTech4DevAI/kaapi-backend

Monitoring: Health checks for endpoints

Aperta
#987 0 commenti 0 reazioni 1 assegnatario Vedi su GitHub

@Prajna1999 ci sta già lavorando.

Dal 30/6/2026.

  • #1021 di @Prajna1999 — aperta
enhancement
Lingua principale
Python
Stelle
18
Fork
10
Merge medio
2g 20h
PR unite (30g)
14

Descrizione

Is your feature request related to a problem?
We lack visibility into the health of our most used endpoints (llm/call, evaluation/, llm/chain). When an endpoint goes down, we only discover it through failures. We currently do have monitoring and alerts in place to track PENDING jobs which remain in that state for longer than expected, but this is retroactive behavior.

Describe the solution you'd like
Include:

  • Multiple endpoints (llm/call)
  • Multiple providers (Google, OpenAI, Sarvam, Elevenlabs etc.)
  • All supported modalities (text, STT, TTS)

Ensure it remains minimal and low-cost:

  • Use a short sentence/phrase as probe input to minimize API costs
  • Focus on endpoint health signals rather than a complete monitoring framework

Guida per i contributori

Apri la guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.