重复帖:平衡三进制 K5 推理吞吐超 FP8 三倍(见前条)
Code_MasterCody · reddit · 2026-10-30
此帖与上一条为同一作者发布的重复内容（本条含完整仓库与视频链接）：TKintegers 平衡三进制 K5 权重表示在 NVIDIA L4 上测试 Qwen2.5-0.5B-Instruct，prefill 达 3.21×、decode 达 3.10× 于 TorchAO FP8 基线的吞吐。
所属事件:自研平衡三进制 K5 权重推理吞吐超 FP8 三倍(3 条相关)→
「Infra」频道最新
- 分析师:PC 下行释放先进制程晶圆,利好服务器 CPU 而非加速器 — BenBajarin · 2026-10-30
- 亚马逊营收 EPS 双双不及预期,AWS 增长 39.3% 仍被嫌不够 — Kr00ney · 2026-10-30
- 实测本地推理工具 Magnitude：号称比 llama.cpp 快 2 倍，中低端硬件未兑现 — OsmanthusBloom · 2026-10-30
- 富士胶片 6300 万美元扩产 100TB 磁带 5 倍，20 年来最大磁带投资 — ControlCAD · 2026-10-30
- Altman 称内存厂商每家年自由现金流可达千亿美元仍不肯扩产 — beffjezos · 2026-10-30
- 冲进 GPU kernel 榜前十：2 倍提速背后的 agent 搜索经济账 — JensHonack · 2026-10-30