AI 审稿实测:数学家 266 条意见中 97.7% 指出真问题
littmath · x · 2026-08-27
数学家 Daniel Litt 公开用 Refine.ink 自动审阅自己 19 篇论文的完整记录:266 条详细意见中,239 条正确、21 条部分正确、仅 6 条错误,即 97.7% 指出了真实问题;经 ChatGPT 审计并人工抽查后整理出 216 条勘误条目。他自评这些输出是「slop」但有用,AI 常过度编辑(一个词能改的偏加一段)。
影响分级:209 条为局限于陈述/证明步骤/公式/引用/假设的局部可修错误,发现 2 处保定理的重大缺陷和 5 处需技术性修正的主结果,无根本性失败。他还透露:几乎全部错误源于改稿时编辑未正确传播;已发表论文中一处由人类同行(Jordan Ellenberg、Alex Smith)发现的引理错误反而被 Refine 漏掉。勘误存档仍在等部分合作者授权后补全。
所属事件:数学家用 AI 审计 19 篇论文:97.7% 评论指出真实问题(9 条相关)→
「研究」频道最新
- Pathway CSO 演讲展望后 Transformer 架构 BDH:每瓦特更高智能 — schwentker · 2026-10-15
- EmbodiedEvo 登顶 RoboDojo:失败的机器人练习也能被下一个 agent 继承 — thetripathi58 · 2026-10-15
- 797GB n-gram 放进 CPU 内存,小模型硬扛多 57% 算力 — PangWeiKoh · 2026-10-15
- Google 论文 Harness²:无验证器下递归进化 agent harness,最高提升 11.5 分 — dair_ai · 2026-10-15
- Kambhampati 明尼苏达开讲:「LLM 思考 token 神话」的系统拆解 — rao2z · 2026-10-15
- 3D Gaussian Splatting 科普:机器人如何记住看不见的世界 — TheTuringPost · 2026-10-15