如何在生产环境落地机密计算？Reddit 求实践经验

metalvendetta · reddit · 2026-09-26

Reddit 上有人请教企业级机密计算（Confidential Computing）在 POC 与生产规模化中的最佳实践，目标是连 GPU 提供方也无法接触数据。发帖人列了自己的思路：用 TEE 中部署小模型持有用户文档、再与大模型交互以避免暴露数据；CPU 与用户机器先做签名校验再开放 SSH；SSH 之后的 Dockerfile、安装包等信息均存编译后的二进制以防泄露模型与版本信息。帖内附讨论社区是否有推理服务商的实战经验。