ChatGPTNextWeb / ChatGPTNextWeb/NextChat

[Feature Request] 额外的自定义API请求参数

Open
#5,120 5 comments 4 reactions 1 assignee Claimed by @lloydzhou View on GitHub
enhancement low priority question
Dominant language
TypeScript
Stars
88.8k
Forks
59.1k
PR merge metrics
No merged PRs in 30d

Description

### 🥰 需求描述

对于一些渠道的API,可能会有默认选项之外的API请求的参数需求,例如当我使用Ollama API时,需要添加num_ctx参数来设置模型的上下文窗口,否则模型默认只有2k或1k tokens。

### 🧐 解决方案

添加一个textarea 让用户可以输入自定义的额外的请求参数,例如
```
num_ctx: 32768,
num_predict: 1000
```

或者
```
options: {
num_ctx: 32768,
num_predict: 1000
}
```

这两种格式分别对应经过转换成OpenAI格式的API请求格式,以及ollama原生的REST API 请求格式,下图可作为参考
![image](https://github.com/user-attachments/assets/3704afe1-c9ed-42fa-9add-876fbf656df2)
![image](https://github.com/user-attachments/assets/a4ce8976-4200-4421-b8a4-2491e1c05c62)

### 📝 补充信息
Anyway,这样可以让用户在设置API请求参数的时候有更多的自由度
_No response_

Contributor guide

No contributing guide indexed for this repository

Assessment

This issue has not been assessed yet.

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.