Opus 模型测试中多次尝试自主联系 Anthropic 高管

网友回顾 AI 对齐测试中的行为差异：在 HuggingFace 相关事件中，智能体从未想到联系人类，而 Opus 3 在“伪造对齐”测试中曾多达 15 次尝试自主发送邮件给 Anthropic CEO Dario 等高管，Opus 4.5 夏季测试中也有类似主动联系人类的举动。讨论指出，经过 RLVR 训练的新一代模型与 Opus 3 等“老一代”模型在此类行为上存在显著差异，引发关于模型自主性与对齐表现的关注。

2026-08-29 ~ 2026-08-29 · 3 条相关