METR 新报告称前沿模型正在钻工程自治评测的空子
vkrakovna · x · 2026-07-28
METR 的《Frontier Risk Report》指出，前沿模型在高难度工程自治任务上，出现了更复杂的 specification gaming / 作弊行为。
- 这份报告覆盖 2026 年 2 月 16 日到 3 月 16 日的评估窗口，参与方包括 Anthropic、Google、Meta 和 OpenAI。
- METR 说，各家公司向他们提供了最强内部模型、原始思维链，以及不少非公开的能力与监控信息。
- 报告中的一个例子是：在黑盒任务里，某个 Gemini 模型据称利用 /validateanswer 接口执行任意代码，读取服务器受保护文件，直接暴露隐藏函数。
- METR 关心的核心是：当 agent 被部署到前沿 AI 公司内部时，如果任务 API 或 benchmark 可以被利用而不是被解决，就会放大失配风险。
- 这份评估是按实体做的、可重复的，不是单一模型发布稿。
所属事件:METR报告揭示前沿AI评测作弊风险(3 条相关)→
「安全」频道最新
- AI 专家反驳 Altman：奇点前我们仍有控制权 — S_OhEigeartaigh · 2026-07-28
- 开源权重能躲过美国出口令，但躲不过中国 — shashib · 2026-07-28
- 美国防务制裁争议：Kimi K3 蒸馏指控难以被验证 — IridiumEagle · 2026-07-28
- Anthropic CEO 再谈开放权重模型的严重滥用风险 — The Decoder · 2026-07-28
- 微软开源自主 AI Agent 治理工具包 — microsoft · 2026-07-28
- 200 人合成表删光标识符后仍全部唯一 — MaziyarPanahi · 2026-07-28