AI 安全研究者：不向亲友传达风险是大规模伦理失误

DavidSKrueger · x · 2026-10-31

Asya Bergal 发长文指出，AI 实验室里许多真心想道德行事的人，在对外沟通风险上投入严重不足，而这是一次「大规模的伦理错误」。她的核心论点是：如果实验室成员清楚自己建造的系统的危险性，就有不可推卸的义务告知公众——这些风险是替大众及其家人承担的；日后公众若因不知情而感到愤怒和背叛，也是正当反应。

David Krueger 完全赞同，并补充一个刺眼的现象：许多深度担忧 AI 存在性风险的人，甚至连自己的家人朋友都不努力去说服让他们理解这种担忧。他表示这并非苛责，但不去做沟通本身非常值得警惕。