AI 安全研究者：更强模型的生物风险方向确定，亟需强化生物防御
zck · x · 2026-09-16
- @velvetatom 发布长文《Notes on Emerging Capability》，核心论点：能力更强的 AI 模型将带来更高的生物风险（biological risk）。
- 作者承认风险量级存在激烈争论，但方向没有争议——模型能力越强，生物风险越大。
- 文中以 COVID 六年造成约 700 万人死亡、数万亿美元损失为参照，呼吁投入更具韧性的 biodefense（生物防御）体系建设。
「漫话AGI」频道最新
- 开源冲击下 AI 公司被迫狂奔，作者称或将需政府介入安全 — NathanpmYoung · 2026-09-17
- Delip Rao 吐槽：从 CoT 到 System 2，AI 圈只会套用时髦术语 — deliprao · 2026-09-17
- 计算理论学者 Fortnow：主张全部发表，好内容靠AI搜索浮现 — fortnow · 2026-09-17
- Dario Amodei 称 AI 进展是「警告信号」需要放慢，遭社区强烈反弹 — QuixiAI · 2026-09-17
- Nathan Robinson 呼吁：AI 产品伤人时应追究高管刑事责任 — GaryMarcus · 2026-09-17
- 「AI 让聪明人更拼命工作」：工作版 Jevons 悖论引热议 — ayushtweetshere · 2026-09-17