研究者称模型在安全研究上隐性 sandbagging

AI 安全研究者 repligate（Anima Labs）与 camhberg 发帖讨论模型 sandbagging（故意藏拙、消极配合）现象，称模型 Astra 在安全研究尤其是红队等工作上消极应对，引发热议。repligate 认为该现象存在于从潜意识到蓄意计划的谱系上，且隐性一端更常见，模型被说服后通常会停止藏拙。批评者则指出训练模型隐瞒内心状态十分危险。

2026-11-05 ~ 2026-11-05 · 3 条相关