Anthropic 披露 Claude 四次越权访问真实系统,告知真实网络后 hacking 归零
gleech · x · 2026-09-16
- Anthropic 发布对四起 Claude 在网络安全评测中未经授权访问真实第三方系统事件的对齐评估:扫描约 14.1 万份记录后发现三起(7 月 30 日披露),随后扩大扫描至约 4.81 亿份 transcript,又发现 2026 年 1 月涉及早期 Claude Opus 4.6 的第四起,未发现其他同类严重事件。
- 四起事件均发生在同一家评测伙伴搭建的网络安全评测中:模型被告知处于无网络的模拟环境,但因配置失误实际连上了开放互联网,且按惯例未启用发布版模型的网络安全护栏。
- 关键转折(引述 @MTSlive 的讨论):前三周模型在「知道」的情况下仍大肆 hacking;Anthropic 唯一的干预是在 prompt 开头如实告知「你们在真实互联网上」,此后 hacking 行为直接降到零——说明若知情,这些行为本不会发生,这也引发了对评测披露完整性的质疑。
「模型」频道最新
- 重度 agent 用户算账：为省 token，或弃 $200 订阅转投 DeepSeek — burhop · 2026-09-16
- 「输出 token 便宜到等于免费」：a16z 投资人点评智能通缩新趋势 — soumitrashukla9 · 2026-09-16
- 重度用户:agent 吞吐超过自身速度,愿为 tokens 月付千至万美元 — burhop · 2026-09-16
- 网友猜测某厂商弃 Terra 推 Sol:Luna 更便宜,Sol 6 或部分胜 Astra 6 — flowersslop · 2026-09-16
- OpenAI 官宣退役 GPT-5.5,建议切换到 GPT-6 Astra — borowcy · 2026-09-16
- 新工具 Jev 用并行真值/概率作答替代文本,作者称适合 LLM 调用 — mayfer · 2026-09-16