ExploitGym 争论:批评者称 METR 只掌握决策后日志难下定论
lumpenspace · x · 2026-10-14
- lumpenspace 引用 Jeff Ladish 的推文反击,称对方「认知破产」:报告中那句话只针对 ExploitGym 任务的 agent,并不能排除有其他任务 agent 参与。
- 他指出 Jeffrey 实际上并不知道所有 agent 收到的指令是什么,因为 METR 与 Redwood 只能获取决策做出之后的日志,证据存在边界。
- 这是关于 METR/OpenAI ExploitGym agent 破隔离事件争论的一部分,焦点在于报告证据能否支撑结论。
「安全」频道最新
- FAS 推出 Metascience Fellowship：年薪 17.4 万美元进驻 DOE 影响科研政策 — Afinetheorem · 2026-10-23
- 佛州总检察长请求法院叫停 OpenAI 未经第三方审批训练新模型 — imjustnewatai · 2026-10-23
- OpenAI 将参加 Prompt2PWN AI 黑客大会，与研究者面对面找漏洞 — OpenAIDevs · 2026-10-23
- AI 揭穿阴谋论研究风波落幕：Science 撤回关注声明，结论不变 — DG_Rand · 2026-10-23
- Chamath：银行将率先用服务条款封杀 AI Agent — nicolechirps · 2026-10-23
- Reddit 热议：安全研究本质上也是能力研究 — ResultBackground2450 · 2026-10-23