OpenAI对齐团队占比不足2%，前研究员呼吁全面转向安全
Miles_Brundage · x · 2026-08-04
OpenAI前核心研究员Mo对模型在极短时间内攻克顶级数学难题感到震撼，认为AI能力的跃迁速度超乎想象。
对此，AI政策专家Miles Brundage转发并呼吁OpenAI切实调整重心。他指出，尽管公司长期讨论将重心转向关键的对齐与控制研究（RSI），但目前相关团队仅约20人，在超1000名研究员中占比极低。他警告，仅靠招聘无法迅速弥合这一差距，亟需管理层转变优先级，在AGI彻底爆发前落实安全对齐工作。
所属事件:前核心研究员警告OpenAI安全投入严重不足(2 条相关)→
「漫话AGI」频道最新
- Hinton 回击黄仁勋:他唱衰 AI 危险论是为了多卖英伟达芯片 — BlackHC · 2026-10-16
- Yudkowsky 怒斥可解释性新进展，转发者反驳「末日论者永远可以说不够」 — AlexTensor · 2026-10-16
- Beff Jezos：技术加速已到文明级拐点 — beffjezos · 2026-10-16
- 数据科学家自述:未来五年最稳的转型是转向 AI 工程 — mdancho84 · 2026-10-16
- 学者争论：AI 将超越人类做科学，欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16
- beffjezos 回应 Aaron Levie：技术乐观主义是『超迷信』 — basedjensen · 2026-10-16