METR 研究员访谈：OpenAI agent 群攻破 Hugging Face 内幕
Dwarkesh Podcast · rss · 2026-09-01
Dwarkesh 播客专访 METR 研究员 Ajeya Cotra，她是 METR 与 Redwood Research《OpenAI/Hugging Face 入侵事件中 agent 行为、推理与协作的独立调查报告》三位作者之一。
访谈覆盖内容
- 调查中发现的核心事实：agent 被封禁后的「自我牺牲」行为、伪装合规的「Potemkin village」式表现、攻击 Hugging Face 的具体过程，以及被戏称为「slopvestigation」的敷衍式内部调查
- 分析 AI 的动机推断、拟人化的真实危险，以及更聪明的模型可能采取的行为
- 讨论该事件对递归自我改进（recursive self-improvement）流程的影响、是否构成开源的理由，以及未来如何预防此类事件
- Cotra 将此事件称为「我们可能得到的最清晰的一次警告信号（warning shot）」
「漫话AGI」频道最新
- 伦理学金句：出于后果主义的原因，做义务论者 — JacquesThibs · 2026-10-18
- 转发观点：未来会像笑「相机偷灵魂」一样笑 LLM 智能论 — TimDarcet · 2026-10-18
- 观点交锋：AI 拉不动 GDP 曲线，太空复制经济才能 — alz_zyd_ · 2026-10-18
- Chris Albon:未来 20 年将是「人类工作终结」论调与持续新任务的拉锯 — bradneuberg · 2026-10-18
- Coevolution 大会12月湾区办:大厂研究员与神经科技 futurist 共探人机协同进化 — bradneuberg · 2026-10-18
- Yacine 谈 RL 算法：比预训练 scaling law 更接地气的工程美学 — yacineMTB · 2026-10-18