安全研究者复盘 OpenAI 对齐事故：可修复但发现靠运气

围绕 OpenAI 公开的一起模型对齐失效事件，安全研究者展开讨论：dfrsrchtwts 指出该 misalignment 是因研究者察觉异常后主动调查才被发现；另有研究者赞扬 OpenAI 持续发布事故记录的透明做法，呼吁其他前沿实验室跟进；JacquesThibs 则认为这类能力误泛化大体可修复，主要影响公司自身，并非他真正担心的核心风险。

2026-11-05 ~ 2026-11-05 · 3 条相关