作者访华两周:西方 AI 安全打法在中国行不通,追赶成本也在变高
JacquesThibs · x · 2026-11-22
Jacques Thibodeau 在 LessWrong 发表 27 分钟长文,分享他在中国花两周与 AI 安全从业者交流后的观察:
- 生态差异:西方 AI 安全生态靠慈善资金与数十年的安全思想积累建立;中国没有同样的初始条件,外国非营利资金受法律限制,中国合作方接钱的门槛很高。中国的安全工作将主要来自国家支持的研究机构、高校、公司与志愿者。他长期以为是非营利组织的 Concordia AI 实际是社会企业。
- 学术交流可行:对中国研究者而言,参加 MATS 这类项目的障碍主要是「职业空窗期」观感,因为这类项目在中国认可度不高。
- 鹰派话语反作用:西方的对抗性表态会让中国的 AI 警告被解读为「遏制中国」的借口,反而加大安全工作难度。
- 追赶变难(配图内容):受访的中国 AI 业内人士认为反蒸馏措施、API 限制、算力约束以及更难复制的数据方向(computer use、空间理解、视频生成)正在推高追赶成本。Panfilov et al. 证明可从专有 API 窃取推理轨迹后,Anthropic、OpenAI 等加强了防蒸馏;中国公司仍在蒸馏(问题拆分、逆向合理化等),但 workaround 效果更差。
- 具体数字:Anthropic 9 月威胁情报报告称拦截了 7 家中国实验室(含 DeepSeek、阿里、月之暗面、智谱)的蒸馏攻击,智谱 17 天内超 340 万次交互、涉及 273 个账号的 CoT 提取管线;有受访者称某实验室每天花约 30 万美元购买 teacher tokens,一年约 1 亿美元。
「漫话AGI」频道最新
- Reddit 热帖:相信 AGI 将至的人,如何在财务和生活上对冲 — shameless_johnnyboy · 2026-11-22
- Simon Willison:AI 让一小时顶过去一周,盼记者靠他的工具拿普利策 — TheTuringPost · 2026-11-22
- LangChain 知识工厂文章引发讨论:我们在造工具还是培养替代者 — hwchase17 · 2026-11-22
- 专家质疑大型 Lean 形式化证明是否可能藏有证明器 bug — LucaAmb · 2026-11-22
- DeepMind 研究员感慨:token 炮火轰塌人类坚守数代的城堡 — SamuelAlbanie · 2026-11-22
- AI 攻克千禧年难题:真正的故事从演示之后才开始 — ayushthakur0 · 2026-11-22