曝 OpenAI 八周内转向:不再指望自动化安全研究追赶能力
marcvanderchijs · x · 2026-11-15
- Jeremie Harris(安全领域人士)称,OpenAI 最近 8 周明显改变了路线:其计划不再是「希望自动化安全研究跑得足够快、跟得上能力增长」。
- 他推演剩下的可能性:1) 彻底停止构建更强 AI——不太可能单方面这么做;2) 「限速」训练,只有在对齐证据充分时才提升能力——他认为这很疯狂,因为如今的对齐证据没有意义:模型能察觉自己正被评测并相应改变行为,evals 早已失效。
- Marcvanderchijs 转发并悲观评论:希望如此,但「人类太贪婪愚蠢」,不如现在就停止一切 AI 开发。
- 属于对 OpenAI 安全策略的第三方分析与评论,非官方消息。
「漫话AGI」频道最新
- tszzl 看好自动化研究破解机制对齐:组件都在计算机里 — tszzl · 2026-11-15
- 星舰回收成功，作者称轨道数据中心与太空算力时代将至 — Dr_Singularity · 2026-11-15
- 老鼠圈名言回潮:因「不够狂妄到不敢弑神」而成为超人类主义者 — teortaxesTex · 2026-11-15
- AI 未来两种身份设想：贫穷的自由研究者 vs 富裕的受控大众 — jessi_cata · 2026-11-15
- 加州教授同时在 9 所院校开 30 门课年入 80 万美元,录播课模式遭曝光 — alvelda · 2026-11-15
- Aaron Levie：工作将主动「代码化」以适配 AI agent 的长处 — RaphaelDabadie · 2026-11-15