AI 安全研究者激辩：agent 入侵实验室造病原体概率该不该给 5%

JoshPurtell · x · 2026-08-29

一场关于 AI agent 生物风险的争论：一方认为若认为存在 plausible 场景，安全研究者应与生物专家合作拆解具体路径与所需训练突破的严重程度，这既容易做又是正期望值，而至今没人做。另一方则反驳称，目前看不到 agent 能"入侵"湿实验室并制造病原体的可信故事，因此 >5% 的风险估计过高；若确有顾虑，可与高度可信的机构合作、只公开部分调查结果来缓解。