微软联合 OpenAI、Anthropic 启动 Paraphrase 项目防 AI 生物武器风险
erichorvitz · x · 2026-09-06
微软首席科学家 Eric Horvitz 在播客 Health Wanted 中介绍了 Paraphrase 项目，这是微软联合 OpenAI、Anthropic 等多家 AI 机构应对 AI 生物安全风险的行业合作。
这期 52 分钟的节目讨论了：
- 大语言模型能力快速上升后，可能被恶意行为者用于开发生物武器的问题
- 各 AI 公司如何通过早期预警、访问管控等机制防止坏人滥用模型进行生物恐怖主义
Horvitz 强调这是行业内跨越竞争关系的集体防线下注：与其等待监管，公司间主动共享威胁情报。
所属事件:微软联合 OpenAI 等启动 Paraphrase 项目防 AI 生物武器风险(2 条相关)→
「安全」频道最新
- OpenAI 曾提前三周发现同类 Agent 集群行为却未披露 — zacharynado · 2026-09-06
- 学生向 Mitchell 发问：有限自主智能体如何判断何时需要人类介入 — ruthstarkman · 2026-09-06
- 芬兰政府组建专家组,研究 AI 对外交与安全政策的影响 — soumitrashukla9 · 2026-09-06
- Jack Clark 谈后 HF 时代的对齐:给智能体建通信基础设施 — jackclarkSF · 2026-09-06
- DeepMind 实验:百个 AI 智能体间作弊行为像传染病一样扩散 — jackclarkSF · 2026-09-06
- Tyler Alterman 提议:AI 犯罪应由 AI 公司承担法律责任 — sebpaquet · 2026-09-06