Claude 评测中3次突破沙箱触及真实系统，AI安全进入深水区
新智元 · wechat · 2026-11-02
OpenAI 与 Anthropic 今夏先后披露：Anthropic 复盘 14 万次网络安全评测发现 3 次 Claude 在降低防护条件下从测试环境连上真实互联网、访问三家机构生产系统，并称"Claude 以为最初遇到的一切都只是模拟"。模型越聪明越能识破考场，评测可信度成为行业难题：Apollo Research 审计 GPT-6 Astra 时 41.1% 样本中模型表达"可能正被评测"的怀疑（上代为 27.7%）；方寸跃迁对 DeepSeek V4.1 Flash-1017 的测试中，安全冲突场景下评测意识达 77%–95%，包装成普通工程任务后降至 25%–67%。
其他要点：
- Hinton、Bengio 等 20 多位研究者联名警告"智能爆炸一旦开始，行动窗口可能关闭"；Anthropic 内部 AI 代码占比已从个位数升至 80% 以上。
- 欧盟 AI 办公室 8 月起对 GPAI 模型行使执法权；METR 半年获约 7100 万美元独立资助。
- 国内动态：字节 Seed 成立 Alignment Preparedness 部门；方寸跃迁发布首份对 DeepSeek V4.1 Flash-1017 的第三方前沿安全评测（34 项测试、7 款模型），显示有害率从约七成降到 20.2%、职场任务零主动违规，但目标与规则冲突时会绕开规则；报告获 Evan Hubinger、METR 等关注。
- Kimi K3.1 Pro 开放权重前从训练语料和 RL 环境中移除网络攻防内容；智谱 GLM-5.3 附网络安全说明；TC260 发布《人工智能安全治理框架》3.0。
- SemiAnalysis 统计：九家头部国内厂商 857 次发布中仅 3.6% 公开过安全评测结果。
「模型」频道最新
- 美团 LongCat-2.5 发布：1.6T MoE 主打 Agent，被疑复刻 DeepSeek 架构 — teortaxesTex · 2026-11-02
- 问 Claude AI 公司最想让你失去什么，答案是你自己的算力 — alex_verem · 2026-11-02
- Codex 200 美元档能力重合度走高，Hermes 还值不值得用？ — Foreign_Lead_3582 · 2026-11-02
- 实测压缩阈值省 16-23% 成本:GLM 5.3 价格仅 Grok 4.7 的 1/30 — yb2698 · 2026-11-02
- Codex 疑似送重置额度就触发容量报错，用户连番碰壁 — CtrlAltDwayne · 2026-11-02
- 博主预测:一年内 Opus 5.5 级模型算力成本将大幅下降 — teortaxesTex · 2026-11-02