前 MIRI 研究员晒 2016 演讲自证:当年就支持任务导向 AGI

jessi_cata · x · 2026-11-22

jessicata 在 pivotal act 历史争论中晒出自己 2016 年在职 MIRI 时的 EA Global 演讲《Using Machine Learning to Address AI Risk》,指出当年自己就说过「构建任务导向 AGI 是个好主意,我们今天就能研究如何实现」。演讲系统梳理了用机器学习保障高能力 AI 安全的技术议程:六类核心问题(行动难评估、测试样例歧义、难模仿人类行为、难指定现实世界目标、负面副作用、满足目标的边缘案例),并深入讨论其中之一——归纳歧义识别,涉及 KWIK 学习与贝叶斯视角。这为争论提供了第一手历史材料。

所属事件:前 MIRI 研究员晒 2016 演讲自证曾支持任务型 AGI(2 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →