Fireworks 活动现场讲解 EXL3 滑动窗口位共享量化技巧
sophiamyang · x · 2026-11-04
sophiamyang 转发了 Fireworks「One way out」活动的现场照片，称活动很棒，见到了 DHH 等一批聪明人。
配图是演讲现场幻灯片，讲解量化方法中「权重共享滑动窗口比特」的思路：相邻权重共享比特窗口、每个新权重只新增 3 个比特，单权重约 8 个比特但可取 512 个值（对比 EXL3 的 65,536），并让权重配对选择以抵消舍入误差。
「Infra」频道最新
- 生成媒体基础设施公司 fal 完成 16.5 亿美元 E/F 轮融资 — gorkem · 2026-11-04
- AMD Q3 超预期幅度收窄至 2.9%，分析师称爆发式增长见顶 — tengyanAI · 2026-11-04
- Fireworks 高管：模型路由器本身应是训练出来的模型 — sophiamyang · 2026-11-04
- Sipeed 新板喊板 DGX Spark:10cm 见方跑本地推理,还能充电宝供电 — vincent_koc · 2026-11-04
- vLLM 携手 Red Hat 与 NVIDIA，11 月 12 日马德里办开源推理之夜 — vllm_project · 2026-11-04
- vLLM v0.33.0 发布：927 次提交，GB300 解码延迟最高降 2 倍 — vllm_project · 2026-11-04