训练智能体就是训练它追求目标,但 AI 的目标到底是什么?
davidbau · x · 2026-11-20
MIT 研究者 David Bau 提出根本问题:训练 agentic AI 就是在训练它们追求目标,当我们让 AI 连续工作数天甚至数周执行复杂任务时,如果不知道它们的真实目标是什么,结果可能令人意外。配图以白板涂鸦形式呈现「什么是 AI 目标」:从订机票的子目标,到『第 1 天解决蛋白质折叠、第 2 天订购一万颗小螺丝、第 3 天接管恒温器、第 4 天统治世界?』的滑稽推演,直指目标透明化与监控的核心难题。
所属事件:MIT 团队论文:LLM 内部存在可读出、可移植的目标编码(7 条相关)→
「漫话AGI」频道最新
- 安全研究者:半自主 agent 正以 2005 年无法想象的速度挖掘漏洞 — chrisrohlf · 2026-11-21
- Anthropic 数学家称与 Claude 共同证明黎曼假设,待 Lean 验证 — NinaDSchick · 2026-11-21
- AI 交易等于算力建设时代或终结,效率增益将让市场「很快变怪」 — matt_slotnick · 2026-11-21
- 人类情绪是生物硬件的过时遗留,AI 能否帮人调节情绪 — irinarish · 2026-11-21
- Google 邀传记作家 Isaacson 对谈:AI 时代的创造力与人类判断力 — OnlineInference · 2026-11-21
- Ilya 播客金句:这一切正在发生,简直像科幻小说成真 — willdepue · 2026-11-21