Sutton谈经验学习与对齐
机器之心 · wechat · 2026-07-20
Richard Sutton 在 WAIC 期间接受群访，围绕「经验学习」和「完整心智」分享了他对 AI 未来的判断。
他认为过去几年行业过度依赖人类数据，下一阶段更重要的是让智能体从经验中学习；他参与的新公司 OakLab 目标是做一个能实时学习和规划、功耗约 20 瓦的「万亿参数模型」，并用短期商业化收入支持长期研究。Sutton 还谈到北京的 Robot Kindergarten 项目：让机器人像孩子一样在更耐折腾的环境中通过试错学习，而不是只做一次性演示。
在对齐问题上，他明确质疑「人类价值观」是否存在统一答案，认为把 AI 完全对齐到某套价值观可能是危险的；他甚至把这种能力类比成人类之间的强制对齐，认为那会削弱世界的多样性与和平。
「漫话AGI」频道最新
- Karpathy 同仁热议:AI 加持科学的甜点区在科学本身 — soumitrashukla9 · 2026-09-11
- 经济学家拆解 Anthropic 增长模型:能写出 15% GDP 增长,不代表会发生 — sebkrier · 2026-09-11
- Cohere Labs 推出交互工具:测 178 种职业哪些任务会被 AI 自动化 — Cohere_Labs · 2026-09-11
- AI 安全人士上 SkyNews 担忧不平等、滥用与社会激励结构 — schwarzjn_ · 2026-09-11
- 风投人士讽 AI 末日论：与疫情恐慌话术如出一辙 — StewartalsopIII · 2026-09-11
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11