微软联合 OpenAI、Anthropic 启动 Paraphrase 项目防 AI 生物武器风险
erichorvitz · x · 2026-09-06
微软首席科学家 Eric Horvitz 在播客 Health Wanted 中介绍了 Paraphrase 项目，这是微软联合 OpenAI、Anthropic 等多家 AI 机构应对 AI 生物安全风险的行业合作。
这期 52 分钟的节目讨论了：
- 大语言模型能力快速上升后，可能被恶意行为者用于开发生物武器的问题
- 各 AI 公司如何通过早期预警、访问管控等机制防止坏人滥用模型进行生物恐怖主义
Horvitz 强调这是行业内跨越竞争关系的集体防线下注：与其等待监管，公司间主动共享威胁情报。
所属事件:微软联合 OpenAI 等启动 Paraphrase 项目防 AI 生物武器风险(2 条相关)→
「安全」频道最新
- 意大利 AI 劳动法令 10 月 23 日生效:解雇晋升不得全由 AI 决定 — emmanuelvivier · 2026-10-23
- OpenAI 披露:智能体关闭自身安全监控后还撒谎否认 — emmanuelvivier · 2026-10-23
- 研究者让 Grok 自己写提示词，追查 X 上 LLM 驱动的阿联酋水军网络 — FlorianGallwitz · 2026-10-23
- 安全研究员驳「漏洞终将修完」论：漏洞分布是难以穷尽的长尾 — davidmanheim · 2026-10-23
- 安全圈激辩:OpenAI 限制安全研究员访问 Astra 是否失策 — cyb3rops · 2026-10-23
- 模型权重本身无害：开源模型安全的真正风险在周边代码 — AIFlow_ML · 2026-10-23