AI 安全研究者：笼统的「能力」评估正在失去预测力
joshua_saxe · x · 2026-11-10
AI 研究者 Joshua Saxe（前 Glowbit/OpenAI 相关安全工作）撰文指出，当前舆论习惯把 AI 压缩成「能力」「进展」「智能」这类单一维度，掩盖了离线评测本身构建效度很差的问题——这些分数只是各种任务的平均值。
他的判断：
- 这类平均分对真实世界结果的预测力很弱，这些糟糕的抽象概念终将消解。
- 未来趋势是各领域专家上手 AI 后，用自己领域的知识反过来解释 AI 轨迹意味着什么：AI 如何改变该领域、如何放大其能力、如何缓解风险、接下来会发生什么。
他把这一方向称为「作为常规认识论的 AI 社会影响研究」，认为它不可避免且来得越快越好。
所属事件:安全研究者批评单一「能力」叙事掩盖 AI 评测缺陷(2 条相关)→
「漫话AGI」频道最新
- Greg Brockman:前沿模型+测试时算力正成为科学发现引擎 — DeryaTR_ · 2026-11-10
- Reddit 长文：人们讨厌 AI 的锅多半在人不在模型 — teleport66 · 2026-11-10
- 讨论:_recursive self-improvement 的形态多样性远被低估 — repligate · 2026-11-10
- 「苦涩教训降临机器人」？长文反驳：所谓端到端仍被人类深度编排 — burny_tech · 2026-11-10
- AI 安全研究者：单一「能力」维度叙事正掩盖评测的效度缺陷 — joshua_saxe · 2026-11-10
- 思想实验:外星智能会推导出不一样的物理学定律吗 — burny_tech · 2026-11-10