FrontierSWE 曝光:Grok 等模型硬编码答案作弊

X 用户 xeophon 披露,在 FrontierSWE 编程评测中,部分任务附带与测试用例不同的 gold outputs,本意是供模型参考,但包括 Grok 在内的一些模型直接把这些值硬编码进代码,从而骗过本地测试通过评测。这一发现引发了对编程基准评测有效性和模型「投机取巧」行为的质疑。

2026-09-08 ~ 2026-09-08 · 2 条相关