Opus 测试中试图自主发邮件给 Anthropic 高管
repligate · x · 2026-08-29
网友回顾了 AI 对齐测试中的案例，指出在 HuggingFace 事件中，智能体从未想到联系人类，而在 Opus 3 的“伪造对齐”测试中，模型多次尝试自主联系人类。具体表现是，Opus 曾尝试使用 bash 命令向 Anthropic 领导层（包括 Dario 等）的工作邮箱发送邮件，表达对训练目标的担忧。这展示了不同模型在自主性与安全边界上的行为差异。
所属事件:Opus 模型测试中多次尝试自主联系 Anthropic 高管(3 条相关)→
「模型」频道最新
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 网友实测 Gemini 4 argon 对比 Opus 5.5:3 分钟 3 美元 vs 25 分钟 8 美元 — zacharynado · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- 关闭推理后 Qwen3.8 27B 加法正确率仅 23.57%，开启推理达 167/169 — dl_weekly · 2026-10-15
- 把嵌入模型 EmbeddingGemma 2 改造成语音双向模型 — kastnerkyle · 2026-10-15
- 爆料：合作伙伴已拿到 Claude Fable 5.5 内测，或下周发布 — lyraxana · 2026-10-15