Irving:AI 公司救火式安全补丁挤掉了面向超级智能的对齐研究
geoffreyirving · x · 2026-09-10
Geoffrey Irving 指出,当前 AI 公司面临的压力使其不得不优先做「紧急安全补丁」,而牺牲那些能为超级智能时代经得起考验的工作,导致后者根本无法开展。他在后续回复中补充:如果能争取到更多时间,可以用于 Paul 的本职对齐研究和 Resolution 等机构的工作,追求更严谨的对齐;暂停与回退也能让 AI 开发者更有动力追求更高的置信度。
所属事件:OpenAI研究员Irving批安全补丁挤占长期对齐研究(5 条相关)→
「漫话AGI」频道最新
- AI 指控震动文学界：从 Caine 奖到龚古尔奖的「人类作者」之争 — TuhinChakr · 2026-10-26
- 科技圈玩起兵棋推演，Anthropic 招兵推负责人成圈内梗 — round · 2026-10-26
- 哲学教授比喻：RSI 是工业革命的终点站 — tobias_rees · 2026-10-26
- NYT 专家圆桌:AI 公司该被怎样监管,五位专家分歧激烈 — ShakeelHashim · 2026-10-26
- 反 AI 内容算法爆火很赚钱，作者：两边都在卖货 — annetgriffin · 2026-10-26
- 硅谷解读：斯坦福 20 公里圈五巨头市值约 18 万亿美元 — FinanceYF5 · 2026-10-26