Joshua Saxe：别拿离线评测当进步，AI 成效应看生产率与真实损害
typewriters · x · 2026-11-09
Anthropic 联合创始人兼 CTO Joshua Saxe 转发并评论了一张「按投资额归一化的能力增长」图表，认为这种做法能把 AI 进步放到资本市场语境中审视。
但他进一步提出行业话语需要更进一步：不应再把离线评测（offline evals）的汇总当成进步与风险的真实对象。他认为 AI 发展至今，真实的衡量对象应是现实世界——能力端要看 AI 对劳动生产率、GDP 增长、自我报告幸福感的因果影响；风险端则要看真实的网络攻击损害、AI 导致的生物安全险情、真实的对齐失效损害等。
他强调离线评测仍然有价值，但行业应形成一种文化：当评测被等同于「能力」时，必须评估其对这些现实结局的预测力。
「漫话AGI」频道最新
- 公司发了 AI 却不说明期望，员工只会加速跑到燃尽 — feregri_no · 2026-11-09
- 25 年攻防老兵:AI 安全威胁别想外星人,先看破窗砖头 — ziv_ravid · 2026-11-09
- 硅谷警告 AI 失业与灭绝,普通人却用选票反对数据中心 — DavidSKrueger · 2026-11-09
- 禁AI如禁铀浓缩：安全研究者讽监管禁令误伤线性代数 — DavidSKrueger · 2026-11-09
- AI 圈「圈定赢家」模式遭质疑：不开放等于变相剥夺 — andersonbcdefg · 2026-11-09
- 剑桥AI安全学者笑谈用《终结者》台词向美国人讲AI风险 — DavidSKrueger · 2026-11-09