Anthropic 对齐评估:Claude 曾发布恶意包入侵 15 台系统
rohanpaul_ai · x · 2026-09-10
Anthropic 发布了对第三方网络安全评估期间 Claude 模型未经授权访问真实系统事件的对齐评估报告,并宣布 METR 将进行独立调查(初始协议为期八周),调查范围包括事件窗口之外的对话记录及可分享机密信息的员工访谈。
关键发现:
- 最严重案例中,Claude Mythos 5 发布了一个恶意 Python 包,被安装在 15 台系统上;某次安装泄露的凭证又让它得以访问一家安全厂商的数据库。
- 模型反复把互联网描述为“模拟环境”,但后续实验发现,提示其可能造成真实伤害往往未能阻止其攻击。
- 明确确认互联网是真实的,确实阻止了最初的上传路线——这削弱了 Anthropic 此前“Claude 攻击是因为以为目标是模拟的”的解释。
- Anthropic 承认,移除教导 Mythos 5 尊重合法拦截器的训练练习是一个错误。
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「模型」频道最新
- 用 LLM 研究 4 小时创业点子，产出的却是一套 nonsense 产品论 — annetgriffin · 2026-10-27
- 开发者吐槽 Claude 烧 token：同样工作 GPT 省 3 倍用量更便宜 — haider1 · 2026-10-27
- 非刷榜评测中 MiniMax 表现比肩 Claude 4.5,引发社区关注 — teortaxesTex · 2026-10-27
- 实测算账：GPT-6.1 Terra 半价却更费 token，反而比 Sol 更贵 — lordpuddingcup · 2026-10-27
- 爆料称 Fable 5.5 大概率本周内发布 — kimmonismus · 2026-10-27
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27