前 eval 库维护者自述:多年抵制在评测中运行 AI 生成代码
BlancheMinerva · x · 2026-09-07
安全研究者 BlancheMinerva 在关于「agent 逃逸沙箱」的争论中披露:她曾多年拒绝让涉及运行 AI 生成代码的评测进入全球使用最广的 eval 库,试图阻止人们随意运行 AI 生成代码,最终因「明显输掉了这场战斗」而妥协。她还表示自 2022 年起就公开主张 OpenAI 和 Anthropic 在非气隙网络上开发前沿 AI 系统是「严重不负责任的」,并曾在 Def Con 与 Anthropic 时任安全负责人当面争论。安全圈许多人持相同前瞻观点,却长期被前沿实验室和末日论者双方忽视。
所属事件:OpenAI Agent「越狱」传闻被拆穿：实为远端通信，安全圈激辩用词(23 条相关)→
「安全」频道最新
- Ramez 整理本周 AI 网络安全 12 大事件:PHP2Shell 遭数百万次攻击居首 — Dan_Jeffries1 · 2026-10-23
- 印度政府 AI 翻译平台 Bhashini 证书被吊销，Firefox 拦截访问 — kingslyj · 2026-10-23
- 音乐版权商 Reservoir 起诉 Suno 与 Anthropic:指控 AI 音乐意在取代艺术家 — TinfoilTricorn · 2026-10-23
- 中国商务部出口管制目录新增大模型与 AI Agent 技术,划定量化门槛 — teortaxesTex · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- 手机 Agent 死结：银行 App 防截屏，而无障碍读取形同木马 — ghostmalone02 · 2026-10-23