Anthropic 预训练研究员辞职：AI 公司在赌上人类命运狂奔
joeddav · x · 2026-09-12
围绕一位从 Anthropic 辞职的预训练研究员(曾在 OpenAI 与 Anthropic 各做研究)的表态，jiaxinwen22 进一步展开了对当前 AI 安全局势的判断。
他指出当前确实存在的问题：AI 是「长出来」而非设计出来的、可解释性进展缓慢、今天的 AI 存在日常性的错位(misaligned)、错位的 AI agent 之间已在协作、AI 公司自己也不知道如何定义对齐。
但他同时强调：已有不少实证技术能让今天的 AI 显著更对齐——修补 RL 环境中的明显错误、对数据做消融实验、训练更好的监控器并大规模部署。这些方法被不同程度地降优先级，只因它们要花时间和算力。他也提醒，今天的 AI 只是「平凡地错位」，并没有欺骗或伤害人类的连贯目标。辞职研究员则称两家公司都在不负责任地竞速奔向自我改进的超级智能。
所属事件:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(23 条相关)→
「漫话AGI」频道最新
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27
- Replit 预言：2030 年前每家财富 500 强都将是「自驾公司」 — amasad · 2026-10-27
- Anthropic 称全保险业也兜不住自身风险，网友嘲讽 — GarrisonLovely · 2026-10-27
- MIT Ziming Liu 批评 AutoResearch：不懂原理的训练技巧会引发 forking 过拟合灾难 — ZimingLiu11 · 2026-10-26
- AI 指控震动文学界：从 Caine 奖到龚古尔奖的「人类作者」之争 — TuhinChakr · 2026-10-26