思想实验提议暂停预训练先攻克驱动力控制

有作者提出激进的思想实验：假设全球协调停止显著改进预训练或强化学习，转而专注于解决训练产生的模型内部驱动力控制问题，其动机是在能力继续提升之前先解决对齐风险。相关讨论聚焦于如何量化并实现真正可控的对齐，以及形成这方面科学共识需要多长时间，引发社区对能力发展与安全性权衡的反思。

2026-08-28 ~ 2026-08-28 · 2 条相关