AI 研究者：末日论者出于善意，对齐研究才是化解之道

livgorton · x · 2026-09-15

misraetel 指出，绝大多数「末日论者」其实是善意且真诚担忧的人——他们害怕比人类聪明数量级、且价值未对齐的 AI 系统会带来伤害。这种担忧并非无稽之谈，但发生的可能性极低，且可以通过认真的安全与对齐研究来切实缓解。

他批评对末日论者扣帽子、发无端指责的做法无助于推进讨论，主张转向寻求共识：就「我们希望 AI 如何行动」以及「用什么系统能保证这一点」展开建设性对话。他个人的建议是用前沿模型持续削弱网络攻击的增量效果，以防范失控风险。