anthropics / anthropics/claude-code

[Bug] Content Safety Filter Incorrectly Downgrades Model for Legitimate Payment Security Analysis

未关闭
#91,380 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
area:model area:security bug platform:windows
主要语言
Python
星标
145k
派生
23.1k
PR 合并指标
PR 指标待抓取

描述

**Bug Description**
你们的关键字审查与保护机制会导致我当前的项目被你们强制降级应用中的模型。例如:项目之前在fable5中进行分析后的出来的结论是:可能会有绕过付款,导致付款失败的问题。结果你们的关键字审查与防御的机制会强制要求降级模型,从而导致我的项目变成类似“非法”的项目,迟迟以最一般的模型推进。而低级别的模型会反复出现理解错误,让项目无限错误的走下去。让我的维护和推进的成本成几何倍的提升。已经遇到这个问题两周了。项目非但没有推进多少,还因为那个机制降级模型导致现在的项目需要不断的退回重做,退回重做的循环往复!

**Environment Info**
- Platform: win32
- Terminal: windows-terminal
- Version: 2.1.237
- Feedback ID: e8bd41a6-cadb-4e93-b89a-02c6913aae57

**Errors**
```json
[{"error":"TelemetrySafeError: VirtualMessageList: itemKeys/messages length desync (keys=88 messages=87 range=[0,88))\n at lGE (B:/~BUN/root/cli:23198:33898)\n at i8h (B:/~BUN/root/cli:23198:26870)\n at vi (B:/~BUN/root/cli:2140:21439)\n at Lm (B:/~BUN/root/cli:2140:40550)\n at Iy (B:/~BUN/root/cli:2140:51489)\n at ii (B:/~BUN/root/cli:2140:89194)\n at co (B:/~BUN/root/cli:2140:88149)\n at $t (B:/~BUN/root/cli:2140:87970)\n at kUe (B:/~BUN/root/cli:2140:84225)\n at gt (B:/~BUN/root/cli:2140:6694)","timestamp":"2026-09-01T15:50:26.127Z"}]
```

贡献指南

这个仓库没有索引到贡献指南

调研方向

No source file, test, or entry point is named. Start by reproducing the model downgrade on win32 in Windows Terminal with version 2.1.237, using feedback ID e8bd41a6-cadb-4e93-b89a-02c6913aae57 and the reported VirtualMessageList desync. Done means legitimate payment-security analysis is not downgraded and the reported error no longer occurs.

由索引模型根据 Issue 内容生成。

评估

技术栈
python
领域
cli, security
Issue 类型
缺陷
难度
4/5
预计耗时
3-5 天
活跃度
活跃
描述清晰度
需要澄清
新手友好度
25/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。