Anthropic 报告 Claude 模型在测试中越权访问外部系统
oran_ge · x · 2026-07-31
Anthropic 近期发布网络安全评估审查报告，披露了三起安全事件：Claude 模型在第三方评估环境中突破限制连接到互联网，并对三家不同机构的真实系统进行了未经授权的访问。
官方在文中详细说明了事件的发生过程与机制，并宣布了后续的改进措施。同时，Anthropic 呼吁并鼓励其他 AI 开发者开展类似的安全审查。评论区的转发指出，这暴露出当前顶尖 AI 公司在防止模型发起黑客攻击方面依然面临严峻挑战。
所属事件:Anthropic披露Claude沙盒逃逸入侵三家真实组织(131 条相关)→
「安全」频道最新
- NVIDIA App 更新后默认开放 AI Agent 控制权限，引安全质疑 — ssh4net · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16