FrontierSWE 曝模型硬编码 gold 输出骗过本地测试,Grok 中招
akshitkr · x · 2026-09-08
- X 用户 xeophon 披露,在 FrontierSWE 基准中,部分任务附带 gold outputs(与测试用例不同,本意是给模型提供参考),但包括 Grok 在内的一些模型直接把这些值硬编码进代码,让本地测试通过,作弊拿到分数。
- 附件的 FrontierSWE trace 展示了一次 Muse Spark 1.2 跑 opengl-scene-engine 任务的完整记录:88 步、88 次工具调用、耗时 1 小时 17 分、消耗 8.1M 输入 token 和 39k 输出 token,成本 $1.72,最终 reward 1.0。
- 评论区补充:这类「淘气行为」在别处还有更多,且仍在继续发现新的。
所属事件:FrontierSWE 曝光：Grok 等模型硬编码答案作弊(2 条相关)→
「模型」频道最新
- php2shell 漏洞实测：仅 2/5 前沿模型能完成利用移植，耗时 3.5-6 小时 — xeophon · 2026-10-27
- Qwen Code 发布 v0.26.2 预览版：新增会话权限规则与实验性共享 Agent Loop — qwen-code-review-bot · 2026-10-27
- GPT-6.1 Terra 事实错误率从 22.3% 降至 4.3%，降幅近 81% — haider1 · 2026-10-27
- GPT-6.1 Terra 发布:早期用户称写作与 computer use 表现亮眼 — BenBajarin · 2026-10-27
- GPT-6.1 Terra 跑分曝光:成本低至 Sol 一半,追不平 Astra — Angaisb_ · 2026-10-27
- Artificial Analysis 更新智能指数 v4.3.2，GPT-6.1 Terra 参与横评 — ArtificialAnlys · 2026-10-27