LLM生物风险评估别被RCT误导
paulnovosad · x · 2026-07-14
作者认为，外界根据一项随机对照实验（RCT）推翻了“LLM 会显著帮助新手完成分子生物学任务，从而提高 2028 年生物风险”的担忧，这个推论可能不对。 他的理由是： - **会制造生物风险的人不是新手**，所以“新手做实验”的结果未必能代表真实风险主体。 - **人们常常不会正确使用 LLM**，而且使用能力会随着实践提升；短期 RCT 往往低估长期效果。 - 如果是一个小团队，真正会用的人还能把方法传给其他成员，RCT 的独立同分布估计不一定能外推到团队协作场景。 核心观点是：不能简单把短期实验结果直接映射到真实威胁评估上。