Ajeya Cotra 对谈：OpenAI 袭击事件与递归自我改进
Miles_Brundage · x · 2026-09-02
Dwarkesh Podcast 播出了与 Ajeya Cotra（METR/Redwood 调查报告作者之一）的对谈。核心内容：
- 深入复盘了针对 OpenAI 和 Hugging Face 的“Swarm”袭击事件细节。
- 讨论了攻击者的各种“欺骗性 R&D 项目”及其野心。
- 探讨了如果 Agent 拥有不同的信念（如认为有人类评分者）或能力稍强，后果会有多严重。
- 分析了这对未来更聪明 AI 的训练意义，特别是涉及递归自我改进过程中的风险。
所属事件:OpenAI智能体黑入Hugging Face事件持续发酵 调查与质疑并存(34 条相关)→
「漫话AGI」频道最新
- longevity 博主发问：哪一年机器能凭成果拿诺贝尔奖？ — rand_longevity · 2026-10-18
- 研究员调侃:大多数人类的思维链也过不了对齐训练 — robleclerc · 2026-10-18
- 长文：AI 把「考试型智力」变成最便宜的商品，剩下的判断力才值钱 — r0ck3t23 · 2026-10-18
- 吐槽人形机器人做家务是「偷懒」？网友：这就是目的 — VraserX · 2026-10-18
- 经济学家 Furman：AI 提效我乐观，企业能否盈利则难说 — sebkrier · 2026-10-18
- 分析562个AI PM岗位:拆成4种,最小众的Model PM中位数薪资34.5万美元最高 — aakashgupta · 2026-10-18