AI-Hypercomputer / AI-Hypercomputer/JetStream
Support completions API
Đang mở
- Ngôn ngữ chính
- Python
- Star
- 457
- Fork
- 67
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
Supporting openai-api-compatible endpoints like the `/v1/chat/completions` and `/v1/completions` APIs would have the following benefits:
* Allow Jetstream to be used as a drop-in replacement for the vLLM server
* Make it easier to demo Jetstream with OSS chat UIs (i.e. https://github.com/open-webui/open-webui, https://github.com/danny-avila/LibreChat, etc)
Hướng dẫn đóng góp
Đánh giá
Issue này chưa được đánh giá.