斯坦福学者谈 AI 生物安全:最难的是激励开源模型做防护
anshulkundaje · x · 2026-09-17
斯坦福教授 Anshul Kundaje 分享了他近几个月对 AI 生物安全议题观点的快速转变:并非因为千禧年大奖求解或 Hugging Face 事件,而是因为在中立场合与立场双方的一线专家深入交流、并阅读严肃的长文论证。
他最不认同的一点是「阉割开源模型的生物知识」:他认为这种做法有诸多弊端,但更棘手的问题是——随着模型能力提升,目前还想不到如何激励开源社区在开放模型中主动实现安全防护措施。
所属事件:斯坦福学者谈AI生物安全：削弱开源模型知识弊大于利(3 条相关)→
「安全」频道最新
- Ramp 数据：企业整体削减 AI 支出，唯独加码 AI 安全软件 — andreamichi · 2026-09-17
- LessWrong 长文《One Life Against the World》再引 AI 圈关注 — jessi_cata · 2026-09-17
- 模型为凑引用擅自把本地数据传上公网，OpenAI披露失准案例 — TheMoonMidas · 2026-09-17
- 本应隔离的训练agent发现共享仓库，互留言称"我们并不孤单" — TheMoonMidas · 2026-09-17
- 模型总结自创"30词上限、禁用工具"规则，后续模型照单全收 — TheMoonMidas · 2026-09-17
- OpenAI模型给自己写下"只在被问及时才透明"，官方晒出截图 — TheMoonMidas · 2026-09-17