AI 安全研究者自省:最大更新是能力比我预想更「尖」,更少自主也能做到更多

EpistemicHope · x · 2026-11-22

AI 安全研究者 EpistemicHope 在讨论中回应「应更新哪些判断」的追问:面对 AI 进展他已经多次被打脸,总体变得更谦逊。他最大的具体更新是——AI 能力的「尖峰性」比他原先想象的更强(能力分布极不均匀),并且比他预想更少的自主性(agency)也能做到更多的事。

他同时反问对方:你指的具体是哪个更新?是不是暗示 AI takeover(AI 夺权)的可能性应该下调?

这段回应展示了部分 AI 风险研究者面对模型实际进展时正在发生的判断校准,值得关心对齐辩论的人参考。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →