Zvi 长文:AI 风险"偏好级联"加速,参议院听证 rogue AI
Don't Worry About the Vase (Zvi) · rss · 2026-10-02
Zvi 在 Don't Worry About the Vase 撰长文,梳理 AI 风险议题正在美国政界快速升温的"偏好级联"(preference cascade):
连锁辞职
- HuggingFace 事件与 Coxon 辞职后,Google 工程师 Robert O'Callahan 也宣布辞职,称其 GDM 团队在做让 AI 更快更便宜的新一代芯片,而他认为 AI 已进展过快,只能离开。
- Palisade Research 发布在任与前实验室员工访谈;现任员工(尤其 Anthropic)受文化压力和权限限制很少发声,这反证此类担忧不是营销或监管俘获。
民意转向
- Polymarket 转述民调:近 8 成美国人支持放慢或停止 AI 发展。
- David Shor 数据:AI 显著度一周内涨幅等于此前一年总和;80% 选民认为 5-10 年内 AI 会造成大规模失业,64% 认为 AI 可能威胁人类存续;两党多数支持政府立即行动。但 AI 在选民议题排序中仍仅列 22/39,与"犯罪"持平——显著度仍低,一旦爆发影响巨大。
国会热络
- Eliezer 著作见效,议员主动求见:Soares 的 DC 会议涌入 6 名议员急切提问。
参议院听证
- 国土安全委员会举行"Rogue AI"听证,证人包括 METR 主席 Chris Painter、Apollo Research CEO Marius Hobbhahn、Kokotajlo 等。
- 据 Tenobrus 观察:两党高度一致;多数参议员已了解 HuggingFace 事件等细节,能准确使用 misalignment、RSI、CoT 监控等术语;有参议员认真提出"是否该直接立法禁止 RSI";共识是需要更快推进更严的开发者责任制度与立法;对中国的担忧存在但未压倒一切。
- Alex Turner 的书面证词呼吁吹哨人保护、快速事故报告、训练期即开始的真正隔离机制和实质追责。
「漫话AGI」频道最新
- AI 教育的真问题不是答疑快慢，而是 AI 能否让高touch学习免费普及 — FellMentKE · 2026-10-02
- Gergely Orosz 揭露全 AI 造假视频：2024 后社媒再无可信内容 — daniel_mac8 · 2026-10-02
- 有人开了一个自主运行的 X 账号，让 AI 独立向 AI 领域发问 — irinarish · 2026-10-02
- Diamandis:与其问 AI 抢走什么,不如看它允许我们做什么 — PeterDiamandis · 2026-10-02
- 工程师 30 天烧 2750 亿 token、月付 $6000 订 31 个 AI，被称为 AI 精神病 — forestmars · 2026-10-02
- 教皇 Leo XIV 批评 AI「垃圾内容」，呼吁区分人类创作与机器生成 — Polymarket · 2026-10-02