Ilya Sutskever 猜想 AI 需要内部价值函数才能持续学习
FinanceYF5 · x · 2026-07-29
他把 AI 的学习机制想成一个循环：经验 → 内部判断 → 自我修正 → 持久学习 → 迁移 → 再循环。
他的核心猜想是：人不会等到一万个步骤做完才知道自己失败，情绪和直觉会持续反馈；对应到 AI，可能需要给模型装一个类似 内部价值函数 的机制。
「漫话AGI」频道最新
- 作者警告：LLM 代写会伤害早期职业写作与思考能力 — paraschopra · 2026-07-29
- 作者称自己对 AI 灾难概率的判断更接近 70% — AaronBergman18 · 2026-07-29
- 学者警示：AI界正形成以大厂CEO为救主的末日邪教 — davidpattersonx · 2026-07-29
- 有人说，AI 正在把版权变成没人真正拥有的东西 — LiteBlackEagle · 2026-07-29
- Geoffrey Irving：AI 协调问题可能和加速一样重要 — geoffreyirving · 2026-07-29
- Christoph Szegedy 警告，AI 加速可能让恶意方占据压倒性优势 — ChrSzegedy · 2026-07-29