agentscope-ai / agentscope-ai/QwenPaw

[Feature]: :对 MEMORY/AGENTS/SOUL 文件强制只读(工具层限制 write_file)

Offen
#4,020 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
enhancement
Vorherrschende Sprache
TypeScript
Sterne
35k
Forks
3.1k
Ø Merge
1 T. 13 Std.
Gemergte PRs (30 T.)
228

Beschreibung

问题描述
在 QwenPaw 的 Agent 配置中,MEMORY.md、AGENTS.md、SOUL.md 及每日记忆等文件承担着关键的记忆和人格定义功能。这些文件通过 system prompt 或 AGENTS.md 中的配置明确约定了"只允许 edit_file,不允许 write_file"的规则。
然而,在实际使用中,模型仍然可能在某些情况下忽略这一约束,直接使用 write_file 工具覆盖这些文件,导致:
- 记忆内容被意外清除
- Agent 人格配置被破坏
- 用户数据丢失

建议方案
在工具层面对这些特殊文件进行只读保护:
1. 路径匹配:当检测到 write_file 目标路径匹配以下模式时,自动拒绝并返回错误:
- {workspace}/MEMORY.md
- {workspace}/AGENTS.md
- {workspace}/SOUL.md
- 以及每日记忆
2. 白名单机制:提供配置文件选项,允许用户指定哪些文件必须通过 edit_file 操作
3. fallback 行为:对 memory 文件的写入尝试,应提示模型使用 edit_file 替代

好处
- 从根本上防止误操作,无需依赖模型自觉遵守规则
- 保持与现有 edit_file 工具的兼容性
- 智能体仍然可以通过 edit_file 正常修改 memory 文件内容

补充
这一保护机制与 QwenPaw "用户数据安全"的设计理念一致,也是多 Agent 协作场景下的重要安全保障。

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.