AI 风险研究者自述：从理性评估到情绪性焦虑的转变

sjgadler · x · 2026-11-03

AI takeover 风险研究者 Tom Davidson（前 OpenAI/Anthropic 风格的 alignment 研究者）描述了他对 AI 夺权风险情感取向的两个阶段：多年来是纯理性判断——他相信夺权概率大于 10%，但并不恐惧，认为「有人研究安全世界、有人研究摸鱼世界」即可；后来逐渐转向更本能、情绪化的关系。转发者 Eli Lifland（著名 AI 风险预测者）表示深有同感：理性评论者的一面之外，越来越大的另一面想每天发推质问「专家都说几年内 AI 可能接管了，人类的回应到底在哪」。两人都认为这种从理性到情绪的转变有利有弊。