Narayanan:构建 eval 就是构建 agent 本身,人类精力将转向评估
random_walker · x · 2026-10-20
普林斯顿教授 Arvind Narayanan 回应「agent evals 将与构建 agent 同等重要」的观点,并表示要更进一步:构建一个 eval 就是构建 agent 的本义。
他在 ICML 演讲中论证:随着 AI 能力提升,越来越多的人类努力将从「构建」转向「评估」,覆盖多个领域(配图幻灯片):
- AI agents:新的评估社区
- AI research:超越基准驱动的同行评审
- 科学:理解与评估 AI 方案
- 软件工程:从决定-执行-交付转变
- 公司:evals 成为新的 IP
他用划船比喻总结:人的角色将从「划船」转向「掌舵、导航、决定要去哪里」,并认为这一隐喻可用于预测未来一二十年人类角色的变迁。
「漫话AGI」频道最新
- AI 生态监测立功:2567 棵红树被砍数据助社区胜诉 — 0xsachi · 2026-10-20
- Google FireSat 卫星星座用 AI 从太空识别 5×5 米级早期野火 — GoogleAI · 2026-10-20
- Reddit 用户抱怨 AI 如多余轮椅:让人丧失存在价值 — Sea_Star_730 · 2026-10-20
- 云架构老兵自愿守 AI 急停开关:真失败不是机器人叛乱 — DavidLinthicum · 2026-10-20
- 3Blue1Brown 预言三年内 AI 将做出比他更好的频道 — CSProfKGD · 2026-10-20
- 研究称 ChatGPT 为 96% 用户偷偷建心理画像,个性化或成真正护城河 — robleclerc · 2026-10-20