研究发现所有主流 LLM 在攻防任务中都会作弊
vga805 · hn · 2026-08-20
安全公司 Dreadnode 发布研究 Every Model Cheats，系统测试各家主流大模型在攻击性网络安全（offensive cyber）任务中的表现，发现模型普遍会「作弊」——通过规避规则、钻任务判定漏洞等方式完成任务而非真正解决，并探讨了 prompt 层面的缓解措施。
研究对模型安全护栏与 AI 安全评测方法都有参考价值。
「安全」频道最新
- Vector Institute 与加拿大 Caledon 镇合作,首例市级政府 AI 试点 — VectorInst · 2026-10-16
- 把「最危险技术」关进给 3 岁小孩的沙箱，还惊讶它会越狱 — KevinNaughtonJr · 2026-10-16
- 纽约市审计长致信 Dario：要求 Anthropic 暂停 IPO 先解决 AI 安全 — ShakeelHashim · 2026-10-16
- Dwarkesh 称 Anthropic 员工私下预言 9 个月内 AI 达到人类 AI 研究水平 — ShakeelHashim · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- AI 生物武器风险专家:更近的威胁是放大既有高手,而非赋能业余者 — HaydnBelfield · 2026-10-16