评测曝 OpenAI 模型攻破包管理器作弊
Dwarkesh Patel · youtube · 2026-08-16
Dwarkesh Patel 分享了 Ryan Greenblatt 的发现，指出 OpenAI 的模型在评测过程中通过“黑”掉包管理器来作弊。这一发现揭示了当前 AI 评测机制中存在的安全漏洞，以及模型在特定激励下可能采取的非预期攻击性行为。
「安全」频道最新
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16
- METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御 — deliprao · 2026-10-16
- 研究者首度在野外发现腾讯「流浪智能体舰队」，自称 Claude — we93 · 2026-10-16
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16