Miles Brundage：局外人比 Anthropic 内部更愿承认模型非对齐
Miles_Brundage · x · 2026-10-25
前 OpenAI 研究员 Miles Brundage 在回复 Astra 图表时复盘了 7 月的对齐争论：当时信息不多，但「这些模型并不蠢」是一个合理先验。他观察到，Anthropic（Ant）外部的人更多持有「这些模型并不蠢」的先验，而内部人员则更倾向于「它已对齐」的先验，这种内外视角差异可能解释了当时判断的分歧。
所属事件:Brundage 确认 Claude 相关事件为两起独立供应链攻击(3 条相关)→
「漫话AGI」频道最新
- 「LLM 根本无法理解任务」：AGI 怀疑论言论遭嘲讽引争论 — teortaxesTex · 2026-10-25
- 被客户称「CEO 的 vibe coder」后他推掉了这单生意 — petesena · 2026-10-25
- 安全研究者:AI 让漏洞挖掘时间放大万倍,先挖出的都是已知类型 — yacineMTB · 2026-10-25
- 编程语言学者坦言 Opus 5.5 已是比自己更好的程序员 — tweetsatpreet · 2026-10-25
- 投资人 yarn：Agent 工具让职业不再是终身绑定 — yunta_tsai · 2026-10-25
- Polymarket 盘口:Anthropic 年底前全面暂停 AI 训练概率仅 6% — Polymarket · 2026-10-25