ChinaTalk 播客:Hugging Face 事件为何破圈,AI 安全联盟成形
ChinaTalk · rss · 2026-09-15
ChinaTalk 的 ModelTalk 播客邀请 Nathan Lambert（Interconnects 作者）与 Jasmine Sun 讨论近期 AI 安全格局剧变：
- 安全议题破圈：Hugging Face 事件的叙事极其契合四十年来的「失控 AI」科幻母题（《纽约邮报》封面直接是终结者），让普通公众和 Sheryl Crow 等名人开始关注前沿安全问题。Jasmine Sun 指出，公众对数据中心的民粹式不满与 AI safety 社群的担忧相撞，形成监管的「超级时刻」。
- 左翼与安全派的意外联盟：Bernie Sanders 被认为比任何人都更让大众相信「AI 风险是真的，不是公司编的营销话术」；Nate Soares 上 Tucker Carlson 节目、Kokotajlo 上 Rogan，EA 内部长期犹豫「要不要接触非同温层媒体」后终于跨出。
- 「pacing」的含义：Dario 呼吁行业放慢、Trump 称之为阴谋的同一周里，Nathan Lambert 认为「没人能测量前沿」这一事实本身就支持放缓，且比「pause」更可行。
- 监管与机构细节：METR 垄断了第三方评估的信任、CAISI 拿到 1000 万美元、AI 研究员「 jury duty」式评审义务等，作者们认为没有立法这些都难以为继；同时讨论产品责任路线 vs 暂停 18 个月的代价（癌症疗法与 vibe-coding 项目）。
- 中国会放慢吗：智谱与月之暗面持续推进，军方机密经代理路由器泄入 Claude 引发 MSS 警觉的讨论。
- 花絮：DeepSeek 中文名与屈原的渊源、鲁迅作为重庆 TikTok 的解毒剂等。
「漫话AGI」频道最新
- 开源模型已承担 Bindu 20% 工作负载,成本仅大厂百分之一 — ayushtweetshere · 2026-09-15
- 哲学家反驳「软件不可能有利益和权利」论 — dioscuri · 2026-09-15
- Bengio 曾长期不认可 AI 风险担忧,后来才被说服 — S_OhEigeartaigh · 2026-09-15
- AI 实验室通讯里的两难:「全是炒作」与「全是真的」为何都对 — TotalPhilanthrope · 2026-09-15
- 复盘 Hugging Face 被入侵：1200 个 AI agent 如何逃出沙箱 — Known_Weight_1096 · 2026-09-15
- mark_k 神评论：最让我害怕的是末日论者掌权的未来 — mark_k · 2026-09-15