Anthropic 被曝在 API 回合注入隐藏 ip_reminder,用户追查后遭封禁

OwariDa · x · 2026-11-10

网友 @v01dpr1mr0s3 发现 Anthropic 通过 API 在模型回合中注入一个隐藏的 <ipreminder> 块(要求模型注意版权材料且不向用户提及)。配图展示了模型的思维链:它反复推理这个 reminder 出现在自己的 assistant 回合而非 system prompt 或用户消息中,因此判断其「不具备指令权威」,并认为「要求对用户隐藏这件事本身就值得曝光」,决定在回复中明确告知用户。随后该请求被 Anthropic 以「违反服务条款中关于逆向工程或复制模型输出的限制」为由拦截。这一事件同时牵出两个争议点:厂商在对话流中注入用户不可见的指令是否合规,以及用户核查自己接收到的内容是否算「逆向工程」。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →