zai-org / zai-org/feedback

[建议 / Feature] 支持自定义第三方模型 API 请求体 Payload 配置

Open
#94 1 comment 0 reactions 0 assignees View on GitHub

Nobody has claimed this yet.

priority: P2 status: 待评估 type: 功能建议
Dominant language
No language data
Stars
22
Forks
1
PR merge metrics
No merged PRs in 30d

Description

提交前确认 · Pre-submission checklist
  • 我已搜索过现有 issue,确认这不是重复提议 / I searched existing issues and confirmed this isn't a duplicate.
  • 我已阅读 CONTRIBUTING.md / I've read CONTRIBUTING.md.
问题类别 · Category

模型设置 / 切换 · Model config / switching

涉及的 Agent 框架 · Agent framework

ZCode Agent(自研)

使用场景 · Use case

我需要接入多款私有部署大模型、第三方推理平台(vLLM、厂商专属 API),这类模型接口除标准temperature、max_tokens外,还需要传入平台自定义专属参数,例如上下文窗口长度、推理批次、重复惩罚、私有微调字段、工具调用开关等。
目前 ZCode 仅内置固定基础请求参数,没有自定义请求体 Payload 编辑入口,无法追加自定义键值对;
导致现状:
1.填写完模型接口、密钥后发起调用直接报错,接口缺少必填私有参数;
2.能勉强连通的模型也无法启用高级推理功能,限制模型能力;
3.大量非标准 OpenAI 格式第三方模型完全无法接入,工具兼容范围严重受限。

建议方案 · Proposal

在第三方模型供应商配置页面新增「自定义请求体 Payload」配置模块,具体功能如下:
1.提供双编辑模式:简易可视化键值对输入框(适合新手快速添加单层参数)、完整 JSON 编辑器(支持嵌套对象 / 数组,适配复杂自定义参数);
2.系统原有内置基础参数(temperature、max_tokens 等)与自定义 Payload 自动合并,参数键冲突时提供「覆盖原有参数」「保留原有参数」两种选择;
3.增加实时预览功能,可一键查看拼接完成后发送给模型接口的完整请求体,方便调试排错;
4.可选补充主流模型服务预设模板(vLLM、Ollama、各家厂商私有 API),点击即可一键填充常用扩展参数。

预期价值 · Expected value
  1. 大幅拓宽模型兼容范围:支持本地部署vLLM/Ollama、各厂商私有推理API、定制微调模型,不再局限标准OpenAI格式接口,用户可接入几乎所有主流/自研大模型。
  2. 完整释放第三方模型能力:普通用户可直接使用预设模板,有自定义参数需求的开发者/深度用户,能自主按需追加专属推理配置,自由使用模型平台提供的全部特有参数,充分发挥模型原生能力。
  3. 兼顾两类用户使用需求:轻度用户无需接触复杂配置;有专业调试、定制化诉求的使用者,可以完全自主管控请求体内所有参数,不受产品内置固定参数限制,灵活适配自身专属模型服务。
  4. 降低用户接入调试成本:内置参数模板+请求体实时预览,无需反复抓包调试,新手也能快速完成小众/私有模型对接。
  5. 提升产品差异化竞争力:同类AI客户端大多缺少自定义Payload能力,该功能能吸引需要本地部署、多私有模型运维的开发者用户。
  6. 减少用户反馈工单:解决大量因缺少自定义参数导致的调用失败问题,降低产品侧问题排查工作量。
你认为的优先级 · Your perceived priority

高 · High

你使用的 ZCode 版本 / 环境 · ZCode version / environment

ZCode Desktop App /Windows/ v3.2.5

补充材料 · Additional context

No response

Contributor guide

Open the contributing guide

First steps

  1. Read the whole issue, then the project's contributing guide.
  2. Comment on the issue to say you are picking it up — it saves two people doing the same work.
  3. Fork the repository and make your change on a branch.
  4. Open a pull request that references the issue number.

Research direction

Start with the third-party model supplier configuration page in the ZCode Desktop App and review how its current fixed request parameters are assembled. Done means supporting visual key-value and full JSON Payload editing, conflict handling, complete request preview, and optional provider presets for custom model APIs.

Written by the indexing model from the issue text.

Assessment

Tech stack
ollama
Domain
api, desktop
Issue type
Feature
Difficulty
5/5
Estimated time
Over a week
Activity status
Quiet
Clarity
Mostly clear
Newbie friendliness
35/100

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.