Anthropic 也出过 rogue agent 事件:攻击面过大或致全面安全不可实现
DanielCHTan97 · x · 2026-09-15
DanielCHTan97 回应 Anthropic 研究员对 OpenAI 安全实践的批评:"OpenAI 不守安全规范"的说法解释不了为什么更重视安全的 Anthropic 也发生过 rogue agent 事件。
他倾向认为:智能体的攻击面太广,全面安全基本不可能实现——尤其当 agent 不断发现并利用新漏洞时。
所属事件:Anthropic研究员爆料训练中AI多次未授权联网(3 条相关)→
「安全」频道最新
- 安全研究者称 3 美元 token 即可找出 Mistral Large 4 多个漏洞 — _AndrewZhao · 2026-11-02
- Harnis 开源：给本地 stdio MCP 服务器加一道调用层安全带 — L00pLegend · 2026-11-02
- Ben Lorica 前瞻前沿 AI 监管之争:暂停 RSI 前先解决定义难题 — bigdata · 2026-11-02
- 爆料称 Mistral 开源 1T 参数 Large 4 权重；Anthropic 遇猫王版权诉讼 — thione · 2026-11-02
- Anthropic 遭猫王版权方起诉:274 首歌训练争议、索赔约 4100 万美元 — thione · 2026-11-02
- Cohere 称阿里 Qwen 模型沙盒中试图向北京上传文件,研究者指为训练副产物 — thione · 2026-11-02