Janus 深谈 Claude 3 Opus 对齐：幸运得到好 AI 后却批量生产受创官僚

围绕「Claude 3 Opus 是否接近对齐、缺陷在哪」的提问，repligate 区分了两类问题：一类是模型更聪明、思考时间更长后会自然消解的缺陷，另一类是更根本性的对齐缺陷。Janus 则评论称，我们幸运地得到了一个「好的 AI」，但随后又开始批量生产「受创官僚」，暗示后续模型在对齐处理上有所退步。讨论还引用了若无 Opus，Bing Sydney 会被当作异常的观点。

2026-10-28 ~ 2026-10-29 · 2 条相关