AI 安全研究者自省:最大更新是能力比我预想更「尖」,更少自主也能做到更多
EpistemicHope · x · 2026-11-22
AI 安全研究者 EpistemicHope 在讨论中回应「应更新哪些判断」的追问:面对 AI 进展他已经多次被打脸,总体变得更谦逊。他最大的具体更新是——AI 能力的「尖峰性」比他原先想象的更强(能力分布极不均匀),并且比他预想更少的自主性(agency)也能做到更多的事。
他同时反问对方:你指的具体是哪个更新?是不是暗示 AI takeover(AI 夺权)的可能性应该下调?
这段回应展示了部分 AI 风险研究者面对模型实际进展时正在发生的判断校准,值得关心对齐辩论的人参考。
「漫话AGI」频道最新
- 「马克思早就预言了生成式 AI」:劳动价值论之争成左派反 AI 新注脚 — felpix_ · 2026-11-22
- Wildeford 预测:2035 年前 AI 证出黎曼猜想概率 15%-30% — peterwildeford · 2026-11-22
- 数学可能一直像国际象棋一样简单,而非像洗衣服那样难 — QuintinPope5 · 2026-11-22
- AI 圈推荐书单:从 Accelerando 到《不存在反模因司》,映射当下 LLM 争论 — mtizard · 2026-11-22
- tinyfool 推荐万维钢《拐点》:AI 颠覆世界的前夜仍未结束 — tinyfool · 2026-11-22
- 博主嘲讽数学家组「人类专属」圈子抵制 AI,不如程序员爽快拥抱 — adamamcbride · 2026-11-22