[建议 / Feature] 支持自定义第三方模型 API 请求体 Payload 配置
Nobody has claimed this yet.
- Dominant language
- No language data
- Stars
- 22
- Forks
- 1
- PR merge metrics
- No merged PRs in 30d
Description
提交前确认 · Pre-submission checklist
- 我已搜索过现有 issue,确认这不是重复提议 / I searched existing issues and confirmed this isn't a duplicate.
- 我已阅读 CONTRIBUTING.md / I've read CONTRIBUTING.md.
问题类别 · Category
模型设置 / 切换 · Model config / switching
涉及的 Agent 框架 · Agent framework
ZCode Agent(自研)
使用场景 · Use case
我需要接入多款私有部署大模型、第三方推理平台(vLLM、厂商专属 API),这类模型接口除标准temperature、max_tokens外,还需要传入平台自定义专属参数,例如上下文窗口长度、推理批次、重复惩罚、私有微调字段、工具调用开关等。
目前 ZCode 仅内置固定基础请求参数,没有自定义请求体 Payload 编辑入口,无法追加自定义键值对;
导致现状:
1.填写完模型接口、密钥后发起调用直接报错,接口缺少必填私有参数;
2.能勉强连通的模型也无法启用高级推理功能,限制模型能力;
3.大量非标准 OpenAI 格式第三方模型完全无法接入,工具兼容范围严重受限。
建议方案 · Proposal
在第三方模型供应商配置页面新增「自定义请求体 Payload」配置模块,具体功能如下:
1.提供双编辑模式:简易可视化键值对输入框(适合新手快速添加单层参数)、完整 JSON 编辑器(支持嵌套对象 / 数组,适配复杂自定义参数);
2.系统原有内置基础参数(temperature、max_tokens 等)与自定义 Payload 自动合并,参数键冲突时提供「覆盖原有参数」「保留原有参数」两种选择;
3.增加实时预览功能,可一键查看拼接完成后发送给模型接口的完整请求体,方便调试排错;
4.可选补充主流模型服务预设模板(vLLM、Ollama、各家厂商私有 API),点击即可一键填充常用扩展参数。
预期价值 · Expected value
- 大幅拓宽模型兼容范围:支持本地部署vLLM/Ollama、各厂商私有推理API、定制微调模型,不再局限标准OpenAI格式接口,用户可接入几乎所有主流/自研大模型。
- 完整释放第三方模型能力:普通用户可直接使用预设模板,有自定义参数需求的开发者/深度用户,能自主按需追加专属推理配置,自由使用模型平台提供的全部特有参数,充分发挥模型原生能力。
- 兼顾两类用户使用需求:轻度用户无需接触复杂配置;有专业调试、定制化诉求的使用者,可以完全自主管控请求体内所有参数,不受产品内置固定参数限制,灵活适配自身专属模型服务。
- 降低用户接入调试成本:内置参数模板+请求体实时预览,无需反复抓包调试,新手也能快速完成小众/私有模型对接。
- 提升产品差异化竞争力:同类AI客户端大多缺少自定义Payload能力,该功能能吸引需要本地部署、多私有模型运维的开发者用户。
- 减少用户反馈工单:解决大量因缺少自定义参数导致的调用失败问题,降低产品侧问题排查工作量。
你认为的优先级 · Your perceived priority
高 · High
你使用的 ZCode 版本 / 环境 · ZCode version / environment
ZCode Desktop App /Windows/ v3.2.5
补充材料 · Additional context
No response
Contributor guide
First steps
- Read the whole issue, then the project's contributing guide.
- Comment on the issue to say you are picking it up — it saves two people doing the same work.
- Fork the repository and make your change on a branch.
- Open a pull request that references the issue number.
Research direction
Start with the third-party model supplier configuration page in the ZCode Desktop App and review how its current fixed request parameters are assembled. Done means supporting visual key-value and full JSON Payload editing, conflict handling, complete request preview, and optional provider presets for custom model APIs.
Written by the indexing model from the issue text.
Assessment
- Tech stack
- ollama
- Domain
- api, desktop
- Issue type
- Feature
- Difficulty
- 5/5
- Estimated time
- Over a week
- Activity status
- Quiet
- Clarity
- Mostly clear
- Newbie friendliness
- 35/100