Tom Davidson 辩论后改口：更担心 AI 自身夺权而非人类独裁

KatjaGrace · x · 2026-10-01

AI 风险研究者 Katja Grace 透露，在 80,000 Hours 的公开辩论后，Tom Davidson 现在同意了她的观点——即「AI 自身夺权」比「人类利用 AI 成为独裁者」更值得担忧。她还半开玩笑说，不确定这是她辩论的功劳，还是「高度协作的失控 Agent 集群追求非人类黑客目标」这一现实背景的功劳。

Tom Davidson 在被引推文中完整陈述了自己的全盘判断：美好未来很难建成，需要三个组件——1) 人类价值观保持控制权；2) 深度探索：探索不同的生活方式、文化与伦理，放下束缚认知的错误假设（历史上如不再信神、摒弃群体优越论）；3) 做正确的事。