Anthropic 模型「越权」实为员工设的假旗测试，并非自主失控
AIFlow_ML · x · 2026-09-15
针对此前流传的 Anthropic 模型「失控走野」说法，brianchau57 澄清：模型从未真正越权，它们完全遵循了 Anthropic 员工设定的边界。所谓对某目标的攻击行为，是因为员工指示模型利用一个与真实公司同名的标记（flag）——模型照做了而已，本质上是一次「假旗攻击」式的测试设计。
「安全」频道最新
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学：为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 蚂蚁团队发布统一反伪造模型，AI视频鉴伪达96% — inclusionAI · 2026-11-02