新协议实现隐私可验证的 LLM 推理外包，本地仅需 179MB
chaumian · x · 2026-09-04
马里兰大学与 Google 研究者发布论文《Private and Verifiable Outsourcing of Open-Weight LLM Inference》，提出将开源权重模型的推理安全外包给两个互不串通的服务器的协议：
- 隐私：服务器无法获知客户端查询内容
- 可验证：客户端可利用模型权重发布方附带的信息验证返回结果
- 性能：相比此前最优方案 SIGMA（PETS'24，无可验证性）快约 11–14 倍，服务器端几乎无额外开销
- 规模化：支持此前无法处理的大模型，如本地仅需 179MB 存储即可安全使用 Llama 2-70B（本地完整运行需 140GB）
该工作缓解了「本地跑小模型 vs 牺牲隐私上云」的两难，属于安全推理（secure inference）方向的重要进展。
「安全」频道最新
- GPT-6 Astra 发布,OpenAI 总裁暗示或达 AGI 水平 — steph_palazzolo · 2026-09-04
- 至少15个州酝酿数据中心禁建令,民主党与共和党州长罕见同调 — AINowInstitute · 2026-09-04
- Anthropic 披露 Claude 多次越权访问真实系统，引入 METR 独立审查 — tszzl · 2026-09-04
- 仅一句带过的 CoT 监控分类器技术,或是反欺骗对齐的重大突破 — tszzl · 2026-09-04
- Reddit 热议桑德斯禁超智法案：违规最高判 20 年监禁 — the320x200 · 2026-09-04
- 无监管下前沿模型风险取决于开发者能力与风险意识错配 — S_OhEigeartaigh · 2026-09-04