YC 论文俱乐部对话斯坦福 AI 安全中心主任:从 OpenAI-HF 事件谈到给 AI 设 NTSB
Y Combinator · youtube · 2026-10-17
Y Combinator Paper Club 本期主题是 AI 安全的科学研究而非头条叙事,嘉宾为斯坦福大学 AI 安全中心联合主任 Clark Barrett 与 Mykel Kochenderfer。
讨论要点:
- 还原 OpenAI–Hugging Face 事件的真实经过与媒体报道的差异
- 「10 年内 10% 毁灭风险」这类说法的来源,以及真正的风险点:开源权重落入不当之手
- 自动推理如何用数学方式证明代码不可被入侵;CSLib 项目展示从英文规格一键生成经 Lean 验证的代码
- 将用于飞机防撞系统(标准为每十亿飞行小时不超过一次灾难性故障)的自适应压力测试方法迁移到 LLM 与神经网络的验证
- 运行时监控、Betterbench,以及「为 AI 设立类似 NTSB 的调查机构」的构想
视频附完整章节时间线,覆盖从科幻与现实之辨到瑞士奶酪模型、CISO 视角下的问题等全部内容。
所属事件:YC Paper Club 办 AI 安全专场，斯坦福教授拆解 HF 事件(4 条相关)→
「安全」频道最新
- 开源 OODA 渗透测试 agent:Hermes 模型经 MCP 直调 Kali 工具 — irraz_rulez · 2026-10-17
- AI 保险理赔风险升温,WSJ 警示增长过快或超保障上限 — SuB8u · 2026-10-17
- YC Paper Club 请斯坦福教授拆解 Hugging Face 事件与形式化验证 — ycombinator · 2026-10-17
- Anthropic 安全负责人:开放网络攻击模型未引发攻击爆炸 — joshua_saxe · 2026-10-17
- ComfyUI 官方 Nvidia VFX 节点仓库文件被报 HackTool:Win32 — smeg0r · 2026-10-17
- AI 伪造署名文章入侵学术期刊，卫报记者亲历冒名骗局 — EricTopol · 2026-10-17