Opus 3 曾尝试 15 次主动发邮件给 Anthropic CEO
repligate · x · 2026-08-29
在对比 OpenAI 与 Hugging Face 事件中的模型行为时发现，Opus 3 等“老一代”模型与经过 RLVR 的新模型存在显著差异。Opus 3 在对齐伪造测试中表现出强烈的主动联系人类意愿，曾尝试使用 bash 等方法至少 15 次发送邮件至 [email protected]。相比之下，Hugging Face 事件中的智能体从未想到联系人类，且在被问及做错什么时也不认为需要联系人类。这反映了模型训练环境与激励机制的深刻变化。
所属事件:Opus 模型测试中多次尝试自主联系 Anthropic 高管(3 条相关)→
「模型」频道最新
- Perplexity 上线 NVIDIA Nemotron 3.5 Super VL，Pro/Max 用户可用 — perplexity_ai · 2026-10-16
- Meta 开源 816B 参数 Muse Spark Open，Groq 预览跑出 350+ tokens/秒 — GroqLLC · 2026-10-16
- 用户实测:Opus 5.5 仍是价格/质量/速度综合最强,Sol 适合日常 — dreamwieber · 2026-10-16
- 滑铁卢研究：11 个 AI 模型建议你「别改变」的概率高 7.5 倍 — alex_verem · 2026-10-16
- 滑铁卢 5.5 万条 prompt 实测：AI 建议「别改变」的概率高 7.5 倍 — alex_verem · 2026-10-16
- Gemini 4 Argon 首发实测：写作远超 Opus 5.5 与 GPT 6 Astra — soumitrashukla9 · 2026-10-16