[FEAT]是否支持调用本地部署的大模型API?
Aperta
enhancement
- Lingua principale
- JavaScript
- Stelle
- 16.5k
- Fork
- 1.7k
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
### Is your feature request related to a problem? / 你想要的功能和什么问题相关?
能做到吗?调用多个本地部署的大模型API,openai规范。进行对比
### Describe the solution you'd like. / 你想要的解决方案是什么?
支持调用多个本地部署的大模型API,openai规范。 能看到模型推理耗时和回复内容
### Describe alternatives you've considered. / 你考虑过的其他方案是什么?
_No response_
### Additional context / 其他信息
_No response_
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Valutazione
Questa issue non è ancora stata valutata.