Noam Brown 对谈 Dwarkesh:AI 世代迭代会不会让对齐逐代衰减?
Dwarkesh Patel · youtube · 2026-09-28
Dwarkesh Patel 发布对 OpenAI 研究员 Noam Brown 的访谈,主题是「如果每一代 AI 的对齐程度都略低于上一代会怎样」。
访谈围绕模型逐代能力提升背景下的对齐问题展开:当推理与智能体能力持续增强,对齐误差是否可能逐代累积放大,以及前沿实验室应如何在迭代中保持对更智能系统的控制。
「漫话AGI」频道最新
- Anthropic 前安全研究员:盲目冲向 RSI 是傲慢而非囚徒困境 — dgrobinson · 2026-09-28
- Yann LeCun 断言：靠堆 LLM 绝无可能达到 AGI — MickeySteamboat · 2026-09-28
- 开发者：没有持续学习就别谈 AGI，冻结权重模型永远不够通用 — cgarciae88 · 2026-09-28
- LifeArchitect Memo：微软 Agent 25 小时以 12 万美元完成 Rust 移植 — dralandthompson · 2026-09-28
- 学者谈 AI 与学术归属:问题不在借用而在无署名 — arjunrajlab · 2026-09-28
- 「我的 agent 抢银行转我 100 万合法吧？」引发的 agent 责任之问 — generativist · 2026-09-28