AI 安全圈争论：安全研究必须说服大厂采用才算有效吗

davidmanheim · x · 2026-08-14

这场争论源于 @viemccoy 给 AI 安全从业者的建议：先确认自己真的在做安全，而不是「把盘子里的食物挪来挪去」。他观察到不少出色的安全研究技术最终无人使用，因为研究者花在推广、说服大实验室研究员采用上的精力太少，传播资源大多耗在「风险 awareness」而非真正说服一线研究者。

风险研究者 David Manheim 回应：说安全工作「需要帮到公司」和「需要做出改变」是两回事；如果宣称唯一有效的安全路径是推动公司内部改进模型，反而会损害安全事业本身。