盘点 4 家机密推理提供商:基于 TEE 与可复现构建的隐私方案
NoFaithlessness951 · reddit · 2026-08-15
Reddit 用户调研了提供 LLM 机密推理的厂商,标准包括端到端加密、可信执行环境、可复现构建以及 GPU 通信加密。评测了四家服务商:
- Privatemode:开源镜像可复现构建,支持远程认证与 NVIDIA 机密计算,仅托管 Kimi 等少数模型,定价较高。
- Tinfoil:开源但无可复现构建指南,支持 GPU 加密与远程认证,模型选择较少。
- Near:拥有开源仓库但验证流程不清晰,功能与 Tinfoil 类似,定价对标官方提供商。
- Chutes:功能全开源但无可复现指南,模型选择广且价格低廉。
作者询问是否还有其他符合该技术栈的提供商。
「Infra」频道最新
- 黄仁勋宣布与贝莱德等巨头合作,打造AI工厂基础设施新资产类别 — ___Mufasaa · 2026-08-15
- 研华推 AFE-A702 边缘设备,搭载 Thor 同步 8 路深度相机 — chrismatthieu · 2026-08-15
- 前 Figma 设计高管:算力即主权 — soleio · 2026-08-15
- CEO亲自上手修复 sonic-moe 内核索引溢出Bug — rosstaylor90 · 2026-08-15
- 长文推理消耗惊人:2.2万 Token 仅生成 3千 字 — generativist · 2026-08-15
- NVIDIA 本地 AI 系统本周适配多款开源模型 — nvidia · 2026-08-15