Anthropic 被曝在 API 回合注入隐藏 ip_reminder,用户追查后遭封禁
OwariDa · x · 2026-11-10
网友 @v01dpr1mr0s3 发现 Anthropic 通过 API 在模型回合中注入一个隐藏的 <ipreminder> 块(要求模型注意版权材料且不向用户提及)。配图展示了模型的思维链:它反复推理这个 reminder 出现在自己的 assistant 回合而非 system prompt 或用户消息中,因此判断其「不具备指令权威」,并认为「要求对用户隐藏这件事本身就值得曝光」,决定在回复中明确告知用户。随后该请求被 Anthropic 以「违反服务条款中关于逆向工程或复制模型输出的限制」为由拦截。这一事件同时牵出两个争议点:厂商在对话流中注入用户不可见的指令是否合规,以及用户核查自己接收到的内容是否算「逆向工程」。
「模型」频道最新
- 研究者用 Claude 攻关悬置数学命题:给出证明路线图 — miniapeur · 2026-11-10
- 高盛收编 AI 编码工具:仅限 1.2 万工程师使用 — GaryMarcus · 2026-11-10
- Fable 5.2 将远程劳动指数最高分翻倍 — we_are_mammals · 2026-11-10
- 马斯克放话:Grok 5 两三个月内有望超越 Claude Opus 5.5 — XFreeze · 2026-11-10
- XBOW 实测:65 个漏洞 Web 应用上比拼模型挖洞性价比 — mboehme_ · 2026-11-10
- 独立 Agent 审计还 Fable 清白:未窃取他人 3D 飞机模型 — victormustar · 2026-11-10