OPTIC 实现逐层嵌入千倍压缩，性能几乎无损
Jiacheng Liu · hf · 2026-10-27
HF 上发布的 OPTIC 方法针对逐层嵌入（per-layer embeddings）做极限压缩：用 token 共享的索引码本加各层专属的仿射解码器，按输出路径拟合残差，从而在冻结主干的情况下重建各层嵌入。
从配图曲线看，在约 1000 倍实际驻留字节压缩比下，OPTIC 仍保留约 85% 性能，而 PQ、OPQ-P 等基线在 100–500 倍区间已掉到接近零；推理开销极小。
「Infra」频道最新
- 窃贼 GPS 欺骗劫走数百万美元数据中心货物 — luisdans · 2026-10-27
- 「搞卡秘籍」:和名校教授交朋友,一句“我缺 GPU”换来整个集群 — vxnuaj · 2026-10-27
- Cadence 发布芯片设计 AI Agent，设计质量最高提升 30% — sven_ai · 2026-10-27
- 预测:AI 实验室需找到高价值工作负载证明算力扩张合理性 — yi111 · 2026-10-27
- GPU 能用 6 年，模型 6 个月就过时：算力比权重更保值 — bindureddy · 2026-10-27
- Block 发布本地语音模型 Dessa：单机架 GPU 训练，能还原笑声与哭声 — technextpreneur · 2026-10-27