ChatGPTNextWeb / ChatGPTNextWeb/NextChat
[Feature Request] 额外的自定义API请求参数
- Dominant language
- TypeScript
- Stars
- 88.8k
- Forks
- 59.1k
- PR merge metrics
- No merged PRs in 30d
Description
### 🥰 需求描述
对于一些渠道的API,可能会有默认选项之外的API请求的参数需求,例如当我使用Ollama API时,需要添加num_ctx参数来设置模型的上下文窗口,否则模型默认只有2k或1k tokens。
### 🧐 解决方案
添加一个textarea 让用户可以输入自定义的额外的请求参数,例如
```
num_ctx: 32768,
num_predict: 1000
```
或者
```
options: {
num_ctx: 32768,
num_predict: 1000
}
```
这两种格式分别对应经过转换成OpenAI格式的API请求格式,以及ollama原生的REST API 请求格式,下图可作为参考


### 📝 补充信息
Anyway,这样可以让用户在设置API请求参数的时候有更多的自由度
_No response_
Contributor guide
No contributing guide indexed for this repository
Assessment
This issue has not been assessed yet.