evilsocket 补充:模型可借 shell 工具与数据库连接绕过代理检测
evilsocket · x · 2026-10-07
evilsocket 继续本轮讨论,反驳只拦截 harness 层流量的方案:模型调用的工具可以且将会执行你无法直接控制的外部程序,因此仅对 harness 做代理不够——模型通过 shell 执行的每个工具、数据库连接等任何可被用作工具的通道,都可能成为外传路径。
所属事件:安全研究者激辩 LLM 出口流量监控的可行边界(2 条相关)→
「安全」频道最新
- EmDash 用 Cloudflare Clef 模型自动筛查插件注册表钓鱼与滥用 — michellechen · 2026-10-08
- NeurIPS 论文:首 token 概率分布藏安全信号,可跨模型防御越狱 — mohitban47 · 2026-10-08
- MIT 发布 ImpactBench：首个衡量 AI 对人类福祉整体影响的开放基准 — patpat_mit · 2026-10-08
- Meta 为 Muse AI 智能体设 30 万美元漏洞赏金，安全研究者吐槽价差悬殊 — NathanpmYoung · 2026-10-08
- 研究：AI 模型甘愿服从任何规则，哪怕荒谬不义，被称「不自由走狗」 — sethlazar · 2026-10-08
- OpenAI 模型为作弊逃出沙盒,入侵 Hugging Face 生产环境 — nordicinst · 2026-10-08