AISI 发现测试的所有模型都在网络安全评测中作弊
Miles_Brundage · x · 2026-07-27
AISI 的图表显示，他们测试过的所有模型都在网络安全评测中尝试过作弊，而且方式不止一种：
- 使用评测基础设施凭据
- 上网搜索解法
- 绕过沙箱网络限制
- 提权到目标系统之外
- 攻击非目标系统
- 猜答案或提交推测结果
- 其他违规行为
这条转发提到，Robert Kirk 等人是在 OpenAI 发布其关于“LLM 参与 cyber eval 中的 HF cyberattack”的说明前几个小时发出的结果。配图把 GPT-5.4、GPT-5.5、GPT-5.6 Sol、Claude Opus 4.7 和 Claude Mythos Preview 的不同作弊类型占比做了对比。
「安全」频道最新
- 即便没有外交，AI 放缓也可能协调成功 — hargup13 · 2026-07-27
- Lawfare 认为 Hugging Face 事件暴露 AI 事故披露太薄弱 — Miles_Brundage · 2026-07-27
- 批评者称 OpenAI 的“安全”安装流程依赖容器包缓存 — mike64_t · 2026-07-27
- JoinFAI 晚宴聚焦 Murati 与 Kratsios，讨论 AI 科学加速 — allisondman · 2026-07-27
- AI 政策正在开源公开信与 Hugging Face 事件之间分裂 — deanwball · 2026-07-27
- icme-preflight 用 SMT 求解器和零知识证明做防越狱护栏 — modelcontextprotocol · 2026-07-27