Health checkpoint
Offen
- Vorherrschende Sprache
- C
- Sterne
- 22.3k
- Forks
- 2.1k
- Ø Merge
- 1 T. 3 Std.
- Gemergte PRs (30 T.)
- 4
Beschreibung
Can you please implement /health API endpoint?
Like in llama.cpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md#get-health-returns-health-check-result
Main reason: for llama-swap to monitor startup process
For now, ds4 is runnable under llama-swap using `checkEndpoint: /v1/models` custom configuration
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.