Anthropic 安全高管：深度学习的科学问题正被规模化浪潮搁置
joshua_saxe · x · 2026-09-04
Joshua Saxe（Anthropic 安全研究负责人）发文指出，当 scaling 变成工业流水线、各实验室收紧研究开放度后，许多关于深度学习的核心科学问题被业界搁置了：
- 彩票假设到底真假到什么程度？
- 为什么在没有显式测试时优化、甚至未上 RL 之前，test-time scaling 就能奏效？
- double descent 中过拟合到泛化之间的相变到底发生了什么？
- 为什么少量 SFT 就能泛化得这么好？
他还批评不少实验室的 mech interp 论文缺乏可复现性，更像「招聘品牌宣传」。他呼吁学术界填补这一空白：规模化模型是这个时代最迷人的研究对象，需要公众层面的科学理解。
「漫话AGI」频道最新
- 观点:等人类真正在乎环境时,宜居之地恐怕已不多 — Bedrovelsen · 2026-09-04
- 徐昊：App Store 时代该结束了，应用应按需生成、用完即弃 — bingxu_ · 2026-09-04
- 观点交锋:去中心化 AI 有益,数据中心加剧气候危机 — Bedrovelsen · 2026-09-04
- Ajeya Cotra 谈 AI 风险:Hard Fork 将讨论 METR 报告 — Tom_Westgarth15 · 2026-09-04
- X 用户预测：到 2027 年 Q3 将出现最强实验室的最强开源模型 — teortaxesTex · 2026-09-04
- 数学家：谈 AI 与数学，别只听菲尔兹奖得主怎么说 — tak3sh8 · 2026-09-04