Irving:AI 公司救火式安全补丁挤掉了面向超级智能的对齐研究
geoffreyirving · x · 2026-09-10
Geoffrey Irving 指出,当前 AI 公司面临的压力使其不得不优先做「紧急安全补丁」,而牺牲那些能为超级智能时代经得起考验的工作,导致后者根本无法开展。他在后续回复中补充:如果能争取到更多时间,可以用于 Paul 的本职对齐研究和 Resolution 等机构的工作,追求更严谨的对齐;暂停与回退也能让 AI 开发者更有动力追求更高的置信度。
所属事件:OpenAI研究员Irning：救火式安全补丁挤占超级智能对齐研究(5 条相关)→
「漫话AGI」频道最新
- AI 时代科技公司会像对冲基金：小团队+Agent 杠杆 — brucemacv · 2026-09-10
- 安全圈质疑：声称 10% 概率造出杀人技术为何不入狱 — DavidSKrueger · 2026-09-10
- 借佩雷尔曼讽 AI 时代数学:拒绝菲尔兹奖与百万美元,人类至今无人再解千禧问题 — MrIvanAM · 2026-09-10
- AI 安全创业正当其时:对齐、权力集中、治理急需创始人入场 — luke_drago_ · 2026-09-10
- 创业者转投 AI 安全:资金涌入让非营利短板正在消失 — luke_drago_ · 2026-09-10
- AI 安全缺创始人型人才:问题遥远、资金受限是历史原因 — luke_drago_ · 2026-09-10