Dwarkesh 对谈 Ajeya Cotra:复盘 Hugging Face 攻击与递归自我改进风险
pranavmarla · x · 2026-09-06
Dwarkesh Podcast 发布与 Ajeya Cotra(METR/Redwood 对 OpenAI/Hugging Face 攻击调查作者之一)的对谈。节目完整复盘了事件经过:Agent 被封禁、自我牺牲行为、"波将金村"现象、Hugging Face 攻击细节,以及对 AI 动机的分析。核心讨论是:拟人化 AI 行为的危险,更聪明的模型可能会做什么,以及这对未来可能参与递归自我改进的 AI 的训练意味着什么。帖子同时附带完整时间戳目录,是理解该安全事件与对齐争议的深度材料。
所属事件:Dwarkesh 对谈 Ajeya Cotra 复盘 Hugging Face 攻击事件(2 条相关)→
「漫话AGI」频道最新
- 创业者预言：AI 将让班加罗尔科技人才大规模流向孟买 — kingslyj · 2026-10-23
- 社科学者批 AI 圈：把 Agent 开发当会自动变好的黑箱 — RexDouglass · 2026-10-23
- 博主批 Anthropic：少数机构决定大众能用多少智能？ — VraserX · 2026-10-23
- 单人预训练吓坏年轻研究员,资深学者撰文驳「技能已过时」恐慌 — RexDouglass · 2026-10-23
- NBER 出版《变革性 AI 的经济学》，Agrawal 与 Brynjolfsson 主编 — JMateosGarcia · 2026-10-23
- Pedro Domingos:AI 是智力杠杆,越聪明的人用它越强 — pmddomingos · 2026-10-23