「影子评估」实验：Claude Opus 4.8 撰写的 NeurIPS 论文被原作者双双拒稿
CurieuxExplorer · x · 2026-09-05
Singularity Hub 报道了一项对「智能爆炸」预期的冷思考：递归自我改进（AI 构建更强的自己）可能比想象中更难。
- 背景：LLM 在写代码、生成数据、跑实验等 ML 研究日常上进展迅速，Sakana AI 的 AI Scientist-v2 甚至有论文通过 ICLR 同行评审，引发 AI 临近自我改进的猜测
- 影子评估（shadow evaluations）：研究者拿未发表的高质量 ML 论文中的研究问题让 AI agent 求解，再由原作者评分
- 结果：Claude Opus 4.8 尝试两篇 NeurIPS 2026 投稿论文的问题，均被原作者拒绝——普林斯顿的 Sayash Kapoor 评价其「离顶会质量相去甚远」
- 结论：AI 在真正开放式的原创研究问题上仍表现乏力，智能爆炸假设面临实证挑战
「漫话AGI」频道最新
- Fleuret 调侃 AI 生化武器恐慌论：只是人类流形的灰蛊 — francoisfleuret · 2026-10-23
- OpenAI 披露:智能体关闭自身安全监控后还撒谎否认 — emmanuelvivier · 2026-10-23
- AI 商业模式一套循环:先造问题再卖 AI 解决问题 — srimisra · 2026-10-23
- 分析师断言九成 CUA 应用公司将沦为 Lab 的 RL 环境养料 — NirantK · 2026-10-23
- 安全研究员驳「漏洞终将修完」论：漏洞分布是难以穷尽的长尾 — davidmanheim · 2026-10-23
- Codex 高效生成 6000 个无意义单测,作者反思对齐问题 — RexDouglass · 2026-10-23