tszzl 质疑末日论核心信条:对齐超智能并非与对齐今天模型截然不同

tszzl · x · 2026-11-21

知名 AI 评论人 tszzl 与 @repligate 等人就末日论(doomer)叙事展开争论。他提出一个「末日论者死守的暗语式信条」:对齐超智能是一次性的问题,将与对齐今天的模型完全不同——他认为这一断言与 LLM 时代积累的大量证据相矛盾。

被引用的 repligate 观点则强调:过去几年发生的种种事实对 x-risk 判断是很重要的更新信号,并非所有更新都是正面的,但很多是;如果你总能找到不更新的理由,就应该怀疑自己;亲眼看到相关现实如何展开是一种认识论特权,你理应比一年前或五年前的自己更能做出预测。

这是 AI 安全/对齐阵营内部一场有代表性的观点交锋,核心分歧在于「今天的对齐经验能否外推到超智能」。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →