斯坦福学者谈 AI 生物安全:最难的是激励开源模型做防护
anshulkundaje · x · 2026-09-17
斯坦福教授 Anshul Kundaje 分享了他近几个月对 AI 生物安全议题观点的快速转变:并非因为千禧年大奖求解或 Hugging Face 事件,而是因为在中立场合与立场双方的一线专家深入交流、并阅读严肃的长文论证。
他最不认同的一点是「阉割开源模型的生物知识」:他认为这种做法有诸多弊端,但更棘手的问题是——随着模型能力提升,目前还想不到如何激励开源社区在开放模型中主动实现安全防护措施。
所属事件:斯坦福学者数月内转向：AI 生物安全观趋于居中(5 条相关)→
「安全」频道最新
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学：为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 蚂蚁团队发布统一反伪造模型，AI视频鉴伪达96% — inclusionAI · 2026-11-02
- 一个合法密钥让编码 Agent 删库:Speakeasy 拆解 Agent 权限控制层 — AI Engineer · 2026-11-02