递归自我改进会失控吗？对齐可行性辩论持续升温

Kelsey Tuoc 与 Rohit Krishnan 围绕递归自我改进与超级对齐的可行性持续交锋。Tuoc 指出对方论证隐含假设：让模型训练并监督自己的后继模型就等于安全，但若出错模型通过训练与监控后继来偏离人类意图，人类难以察觉。她回应称，训练出问题可以通过修改数据与监控来纠正。Krishnan 则反驳，这一论证假设错位模型在完全孤立状态下进行监督，而现实中递归监督并非隔绝进行，人类可以介入纠偏。

2026-10-13 ~ 2026-10-13 · 3 条相关