模型能否推理训练后果引发对齐之争

Kelsey Tuoc 与 1a3orn 围绕模型对齐展开交锋。Tuoc 认为让模型不去推理自身行为带来的训练后果是不可能的，因为足够聪明的模型必然意识到行为会影响训练结果。1a3orn 回应称，可降低训练过程在模型上下文中的显著性以推迟问题，但这只是把问题踢给更聪明的模型；其总结建议趁早在当前模型上建立好行为，并设法使其在模型变聪明后仍保持，避免未来从零开始解决训练后果问题。

2026-11-10 ~ 2026-11-10 · 3 条相关