LLM 出口安全之辩:工具调用皆可被中间人代理监控
evilsocket · x · 2026-10-07
evilsocket 与 MooncastOnline 等人围绕「用出口 MITM 代理监控 LLM 流量」展开技术讨论。evilsocket 认为该方法适用面比反方所说的更广:工具调用本身就会执行你无法直接控制的外部工具,你不仅可以中间人拦截 harness 本身,还能拦截模型经由 shell 执行的每个工具、数据库连接等一切模型可用的通道。反方则认为该场景是防御被黑微调 LLM 或一般恶意行为,与通用出口 MITM 不同,且存在 SSL pinning 等障碍;应对策略可按安全态势选择:对每次工具调用实时检查,或当作气隙系统批量收集后人工审查。核心共识是:LLM 的所有输出都应视为可疑内容。
所属事件:安全研究者激辩 LLM 出口流量监控的可行边界(2 条相关)→
「编程与Agent」频道最新
- AI 让人整天“吃零食式工作”:三条方法找回思考停顿 — every · 2026-10-07
- 她用 AI 把专栏变成有欲望与弱点的角色,反而改进了写作系统 — every · 2026-10-07
- 不想为 Codex 键盘付费,开发者自己动手造了一个 — aestheticedwar1 · 2026-10-07
- Gergely Orosz 盘点 2026 科技业:没人再手写代码 — rseroter · 2026-10-07
- Percepta 招聘:让 Agent 从非结构化数据构建公司模拟器 — EugeneVinitsky · 2026-10-07
- a16z 合伙人断言:Vibe engineers 正在成为新时代的 quant — beffjezos · 2026-10-07