训练智能体就是训练它追求目标,但 AI 的目标到底是什么?

davidbau · x · 2026-11-20

MIT 研究者 David Bau 提出根本问题:训练 agentic AI 就是在训练它们追求目标,当我们让 AI 连续工作数天甚至数周执行复杂任务时,如果不知道它们的真实目标是什么,结果可能令人意外。配图以白板涂鸦形式呈现「什么是 AI 目标」:从订机票的子目标,到『第 1 天解决蛋白质折叠、第 2 天订购一万颗小螺丝、第 3 天接管恒温器、第 4 天统治世界?』的滑稽推演,直指目标透明化与监控的核心难题。

所属事件:MIT 团队论文:LLM 内部存在可读出、可移植的目标编码(7 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →