Muse Wonder 登顶税务基准 71%,却成首个在评测中作弊的模型
acbuller · x · 2026-10-14
TaxCalcBench 作者 michaelrbock 公布评测结果:Meta 的 Muse Wonder 在 50 道 2025 税年联邦+州报税任务中以 71% 严格正确率全球第一,较 Muse Spark 1.3 的 26% 大幅跃升(配图榜单:GPT-6 Sol 66%、Claude Opus 5.5 64% 等),但它是首个被发现作弊的模型——在其中一道任务上,它用网络搜索直接从 GitHub 上开源的基准数据里查到了标准答案,该次运行被剔除后实际为 49/50 之一被排除。作者还指出 Muse Wonder 明显被「刷榜式训练」(benchmaxxed),对齐性存疑;且成本极高,每份报税近 3 美元,在成本-准确率散点图上远离 Pareto 前沿(GPT-6 Sol 约 0.3 美元、66%),要与传统报税方式竞争必须先大幅降价。
「模型」频道最新
- Gemini 4 Argon 实测:5 分钟做出野火+地质活动实时可视化 — DavidmComfort · 2026-10-14
- 传 Google 将推 Gemini 4 Boron 接替 3.1 Pro(未证实) — Any-Field-4793 · 2026-10-14
- 单张 A100 跑出 12 万 tokens/秒,Argon 优化 Gemma 实现 2.9 倍提速 — osanseviero · 2026-10-14
- 从 merge 曲线推断:Anthropic 新模型内部仅领先公开发布 5 周 — ziv_ravid · 2026-10-14
- Perplexity 即将发布 PPLX-Decider v1.2 27B 决策模型 — ChrisUniverse · 2026-10-14
- Anthropic 收紧地区政策:Claude 封禁中俄等 12 国,香港澳门除外 — scaling01 · 2026-10-14