Irving:暂停和回退能激励 AI 开发者追求更高对齐置信度
geoffreyirving · x · 2026-09-10
Geoffrey Irving 在线程结尾再次强调:「如果争取到更多时间,我们就能把它用起来」。这些时间可用于 Paul 的本职对齐研究以及 Resolution 等类似机构的工作,尝试更严谨的对齐方案;而暂停与能力回退还能改变激励机制,让 AI 开发者更有动力以更高的置信度为目标。
所属事件:OpenAI研究员Irving批安全补丁挤占长期对齐研究(5 条相关)→
「漫话AGI」频道最新
- OpenAI 收购 Orchestra Bio,AI agents 进军药物研发 — dl_weekly · 2026-10-27
- 学者争论：现行 LLM 远超 GPT-4，但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- Venkatesh Rao 新文:学会驾驭你自己的大脑 — jger15 · 2026-10-27
- 老工程师回望手写代码时代:AI 接管后,新生代再也体会不到这些时刻 — bendee983 · 2026-10-27
- Luiza Jarovsky：AI 系统不是也永远不会是我们的朋友 — LuizaJarovsky · 2026-10-27
- 投资人 Lex Sokolin：当 AI Agent 替你选银行，品牌好感失效 — LexSokolin · 2026-10-27