OpenAI对齐团队占比不足2%,前研究员呼吁全面转向安全
Miles_Brundage · x · 2026-08-04
OpenAI前核心研究员Mo对模型在极短时间内攻克顶级数学难题感到震撼,认为AI能力的跃迁速度超乎想象。
对此,AI政策专家Miles Brundage转发并呼吁OpenAI切实调整重心。他指出,尽管公司长期讨论将重心转向关键的对齐与控制研究(RSI),但目前相关团队仅约20人,在超1000名研究员中占比极低。他警告,仅靠招聘无法迅速弥合这一差距,亟需管理层转变优先级,在AGI彻底爆发前落实安全对齐工作。
「漫话AGI」频道最新
- AI泡沫若破裂并非技术失效,而是智能成本下降快于资本偿付 — aiamblichus · 2026-08-04
- 人形机器人量产将迎爆发?五年内或达五千万台 — willccbb · 2026-08-04
- 预测人类长寿逃逸速度难实现,专家称首要目标应为人均寿命110岁 — MaxUnfried · 2026-08-04
- AMD迎战AI算力财报周,分析师指开源模型将冲击闭源利润 — AccBalanced · 2026-08-04
- 扎克伯格:未来每家企业都将拥有定制化 AI 系统 — rohanpaul_ai · 2026-08-04
- Token 价格暴跌为何没省下钱?开发者呼吁关注「单步完成成本」 — truecakesnake · 2026-08-04