Miles Brundage:前沿公司都没有安全自我改进的靠谱计划
Miles_Brundage · x · 2026-10-10
前 OpenAI 安全研究员 Miles Brundage 批评所有前沿 AI 公司,称没有任何一家对「如何安全地做自我改进类研究」有哪怕概念层面的计划。他强调这是对全行业的批评,不针对某一家。在后续回复中他补充,DeepMind 的 control 与 alignment 议程可能是最接近这类计划的,但 DeepMind 自己也会承认仍有大量工作要做。
所属事件:前OpenAI安全高管批前沿AI公司缺乏安全自我改进计划(3 条相关)→
「漫话AGI」频道最新
- 参观巴尔的摩工业博物馆有感:技术史讲解只剩失业与不平等叙事 — Afinetheorem · 2026-10-10
- AI 没有杀死创意工作，而是改变客户付费方式 — kevinsurace · 2026-10-10
- AI 给你的菜谱不是它创作的：原作者被系统性抹去 — gerardsans · 2026-10-10
- KKT 点对应 CDT+GT 均衡：不完美记忆博弈与策略梯度优化的理论桥梁 — jessi_cata · 2026-10-10
- 意识研究圈玩梗：对着「心灵空间」分类图扔飞镖 — eigenhector · 2026-10-10
- 把《三体》当 AGI 预言读:刘慈欣是否早写过超对齐? — abhiadesai · 2026-10-10