Venice AI 工程师拆解：AI Agent 的秘密是怎么从日志里漏出去的
AI Engineer · youtube · 2026-10-12
AI Engineer 大会上，Venice AI 首席 DevRel 工程师 Joshua Mo（Rust AI 框架 Rig 前主导维护者）讲解 AI Agent 系统的隐私与泄密问题：私有模型不等于私有产品，泄漏往往发生在模型周边的工程层。
隐私思路：核心是最小化「爆炸半径」而非绝对安全——Venice 不存 prompt、对闭源提供商匿名化请求、模型跑在可信执行环境（TEE）、分片密钥加密存储。
典型泄漏点：日志悄悄记录 prompt 与密钥；从 vault 取出的密钥直接进入推理层，一次工具调用即可外传。
防御模式清单
- 用哈希 ID 替代个人数据；分片密钥托管；可撤销句柄
- 收窄 agent 权限范围；在 agent 前置分类器拦截 prompt injection
- vault 接到执行层而非 LLM；沙箱加权限监控
- 机密计算 + 可验证远程证明
- 结尾指出「机密工具调用」仍是开放问题。
「编程与Agent」频道最新
- 用 Grok 机器人统一调度多个编码 Agent,并行跑 PR 修 bug — Rasmic · 2026-10-12
- 双卡昇腾 310P 跑通 GLM-5.3-Flash:8 tok/s、31 万上下文实录 — matteiuspi · 2026-10-12
- ajkemps:plain-writing 是团队内部使用率最高的 skill — sh_reya · 2026-10-12
- plain-writing skill 开源:让 AI Agent 说人话的规则集 — sh_reya · 2026-10-12
- 用户实测 Grokbot 自主跑业务:Opus 加 harness 真赚到钱了 — iruletheworldmo · 2026-10-12
- 把规则写成代码:Reddit 网友让 AI Agent 做到 100% 确定性 — dsl400 · 2026-10-12