研究者激辩灾难性失对的成因与可规避性

围绕 AI 灾难性失对的成因，MaxNadeau 指出「RL 环境激励作弊」「模型模仿预训练语料中的人而产生自保驱动」这类看似良性的解释，恰恰正是 Christiano 与 Cotra 灾难性失对论证的核心。Theo Jaffee 则回应称，即便这些解释成立，也意味着灾难性失对是可以用已知技术规避的工程问题，而非 AI 发展的必然结局。

2026-11-05 ~ 2026-11-05 · 2 条相关