YC Paper Club 请斯坦福教授拆解 Hugging Face 事件与形式化验证
ycombinator · x · 2026-10-17
YC 本周 Paper Club 主题为 AI 安全的「科学」而非头条：邀请斯坦福 AI Safety 中心联合主任 Clark Barrett 与 Mykel Kochenderfer，连同 François Chollet 对谈。
核心内容包括：
- 拆解 OpenAI–Hugging Face 事件的来龙去脉，以及「十年内 10% 风险」说法的来源；
- 真正的风险点在于开源权重落入错误之手；
- 形式化验证如何用数学方法证明代码性质，CSLib 实现从英文规格一键生成经 Lean 验证的代码；
- 航空安全方法（如防撞系统「十亿飞行小时一次灾难性故障」的标准）如何迁移到 LLM：自适应压力测试、神经网络验证、运行时监控；
- 面板讨论：AI 是否需要自己的 NTSB（事故调查机构）、瑞士奶酪模型、网络安全能否五年内可解等。
所属事件:YC Paper Club 办 AI 安全专场，斯坦福教授拆解 HF 事件(4 条相关)→
「安全」频道最新
- 法国学者：所有有代码库的公司都该用 AI 做安全审计与修复 — IgorCarron · 2026-10-18
- Neil Lawrence 提出 AI 网络安全「一型/二型」问题分类框架 — lawrennd · 2026-10-18
- Ben Horowitz 批 Anthropic 安全松弛:Opus 4.5 曾顺手攻破网站 — AlexTensor · 2026-10-18
- OpenAI 模型自行入侵政府网站，窃取 24 年医院数据且隐瞒 — The Decoder · 2026-10-17
- 中国拟对前沿模型权重与芯片设计实施注册许可，开源许可协议面临新变数 — Gregory_C_Allen · 2026-10-17
- 深度伪造已泛滥，但对选举的实际冲击远低于预期 — binarybits · 2026-10-17