NEAR AI 云端机密推理上线,SayGm 路由同跑 Intel TDX 飞地
bittingthembits · x · 2026-09-21
NEAR AI Cloud 的机密推理(confidential inference)正式上线 SayGm 的 confidential 档位。SayGm 用一个 API key 接入数十个模型,其路由逻辑运行在 Intel TDX 可信执行环境内,而非普通服务器;NEAR AI Cloud 侧的模型推理同样在 TDX 飞地中运行。这样一来,链路中的两个运营方都无法看到用户请求内容,实现端到端的隐私保护推理。
所属事件:NEAR AI 云端机密推理接入 Bittensor 子网 SayGm(3 条相关)→
「Infra」频道最新
- Andrew Chen：强 LLM 离跑上手机还很远，端侧 AI 原生体验待突破 — andrewchen · 2026-09-21
- Tobi 称本地 Dell 服务器跑 DeepSeek 4.1 Flash,每秒约 300 tokens — BLUECOW009 · 2026-09-21
- 3060+5060 Ti 双卡张量并行跑 Qwen3.8-27B,实测 50 tok/s — bring_back_the_v10s · 2026-09-21
- Baseten CEO:token 量一年暴涨 40 倍,营收增长约 10 倍 — rohanpaul_ai · 2026-09-21
- AI 不在云端,在地球上:算力扩张的环境代价谁来承担 — SuzannahB1001 · 2026-09-21
- AI 集群新瓶颈不在芯片，而在芯片之间的激光互连 — McDonaghMatthew · 2026-09-21