争议:未在私有基准测试不应宣称满分
JFPuget · x · 2026-08-31
JFPuget 回应了关于其模型在 ARC 基准上得分的质疑,强调他们仅在公开评估游戏上测试,并指出缺乏支持半私有数据评估的工具是导致无法提交社区排行榜的原因。François Chollet 则反驳称,如果模型从未在私有基准上评估,就不应宣称在该基准上得分 100%,并批评了未开源解决方案的做法。
所属事件:编码Agent宣称ARC-AGI-3满分遭Chollet驳斥(6 条相关)→
「模型」频道最新
- 试用 Grok bot 却先收到 Cursor 欠费账单,两账户合并需先补款 — haydendevs · 2026-10-16
- TensorFold 1.0.12 发布:120B 视觉模型跑进 1-2 台 DGX Spark — HankYeomans · 2026-10-16
- 截图曝 Google 疑似未发布模型 Gemini 4 Argon,仅限 Ultra 和付费 Pro 用户 — il_-bro · 2026-10-16
- 谷歌:Gemini 4 Argon 进驻 Antigravity,代码提交增 35%、回滚降三分之一 — tekbog · 2026-10-16
- Gemini 分类器乱注入「无根据信念」警告,Opus 推理现场翻车 — liminal_bardo · 2026-10-16
- 密码学家 Matthew Green 烧掉一周 Pro 配额,GPT-6 仍未能分解 512 位 RSA — matthew_d_green · 2026-10-16