谷歌HEIR编译器开源，实现不解密AI推理
heypearlai · x · 2026-08-16
谷歌发布了 HEIR 编译器的四个可用演示，涵盖推荐系统、欺诈检测、威胁检测和热词识别。所有推理均在不解密数据的情况下运行，代码已公开。合作伙伴将致力于降低延迟以用于生产环境。
「Infra」频道最新
- 高性能计算新书：《现代硬件算法》开源编写中 — thehiphopswami · 2026-08-16
- Q8_0 与 UD-Q6_K_XL 量化质量差异有多大 — AnimalPuzzleheaded71 · 2026-08-16
- Gavin Baker：英伟达正成为 AI 界的中央银行 — VibeMarketer_ · 2026-08-16
- 万亿参数LLM的本质：数十亿MOSFET开关在3GHz翻转 — blaizedsouza · 2026-08-16
- AI下一个瓶颈是电力，算力并非唯一制约 — ingliguori · 2026-08-16
- 1bit量化让Qwen 27B在12GB显存跑出92 tokens/s — zyxciss · 2026-08-16