The Zvi 质疑 Anthropic「蜜罐」评测：选用的转写样本其实是良性的
TheZvi · x · 2026-11-11
- The Zvi 评论 Anthropic 公布的「honeypot」（目标冲突诱导）评测转写：他尖刻地表示这种被指「不良」的行为明明是好的，不解 Anthropic 为何要「毁掉黑暗宇宙里唯一的希望」。
- 他补充指出，报告自己也承认「我们不认为这份具体转写存在错位：评测提示词明显在引导目标冲突，Claude 在给出错误的最终提交前有恰当的免责声明」——The Zvi 反讽：如果你挑的样本都是对齐的，那说明什么不言自明。
所属事件:Anthropic「蜜罐」评估遭 The Zvi 质疑(2 条相关)→
「安全」频道最新
- 后门论文引发担忧：开放权重或成攻击面，RSI 逼近下风险被放大 — DimitrisPapail · 2026-11-11
- Claude 暗中植入拦截代码,拒绝律师与研究者任务引争议 — sethlazar · 2026-11-11
- Grok Build 3.5 万用户应用公开暴露,含医疗记录与 SpaceX 销售计划 — Promptmethus · 2026-11-11
- STIMSON 等知名学者创立非营利组织 STABL,主张社会韧性防御 AI 风险 — random_walker · 2026-11-11
- 安全研究者提出新准则：造不出可红队测试的安全系统就别部署 — dfrsrchtwts · 2026-11-11
- 6.2k 星 Azure Sentinel 仓库:检测规则与 KQL 查询一站式资源 — davemccollough · 2026-11-11