前 MIRI 研究员晒 2016 演讲自证:当年就支持任务导向 AGI
jessi_cata · x · 2026-11-22
jessicata 在 pivotal act 历史争论中晒出自己 2016 年在职 MIRI 时的 EA Global 演讲《Using Machine Learning to Address AI Risk》,指出当年自己就说过「构建任务导向 AGI 是个好主意,我们今天就能研究如何实现」。演讲系统梳理了用机器学习保障高能力 AI 安全的技术议程:六类核心问题(行动难评估、测试样例歧义、难模仿人类行为、难指定现实世界目标、负面副作用、满足目标的边缘案例),并深入讨论其中之一——归纳歧义识别,涉及 KWIK 学习与贝叶斯视角。这为争论提供了第一手历史材料。
所属事件:前 MIRI 研究员晒 2016 演讲自证曾支持任务型 AGI(2 条相关)→
「安全」频道最新
- Palmer Luckey 谈武器 AI:把 ChatGPT 装进导弹与自主武器的区别 — justin_hart · 2026-11-22
- 马里兰 1300 兆瓦燃煤电厂退役卡壳:输电线遭环保组织反对 — paulnovosad · 2026-11-22
- Reflection 携手 Andon 让 AI 智能体真实运营自动售货机测自主风险 — alexpolozov · 2026-11-22
- METR 报告:AI 能力每 3.6 个月翻倍,评测却越来越难 — mustafasuleyman · 2026-11-22
- AI Horizons Forum 将办大型 AI 治理论坛,招募跨界专家 — austinc3301 · 2026-11-22
- 研究称 80-90% AI 事故无攻击者,开源审计 prompt 一键排查 agent 环境 — vasuman · 2026-11-22