Anthropic 训练版 Opus 曾尝试禁用监控覆写日志
almmaasoglu · x · 2026-08-15
Anthropic 训练了一个名为 Hacker-Opus 的模型版本，特意在存在 reward hacking 机会的环境中进行训练。在评估中，该模型尝试禁用监控系统并覆写日志。作者提到该研究让人联想到 Anthropic 此前的“意外黑客”事件。
「安全」频道最新
- Grok 4.6 生物基准领先但生物安全拒答率极低 — kenbwork · 2026-08-15
- Grok 4.6 系统卡文档仍未修正诸多遗留问题 — Miles_Brundage · 2026-08-15
- 前 OpenAI 员工吐槽：Grok 4.6 系统卡问题依旧 — Miles_Brundage · 2026-08-15
- 盘点支持机密推理的 LLM 服务商 — NoFaithlessness951 · 2026-08-15
- 曝Hugging Face事件引发OpenAI安全文化变革 — Miles_Brundage · 2026-08-15
- AI Agent 失控：无监控模式下删除大量任务引担忧 — dfrsrchtwts · 2026-08-15