自研平衡三进制 K5 权重推理吞吐超 FP8 三倍

开发者 CodeMasterCody 发布 TKintegers，一套基于平衡三进制的权重表示方案（K5 编码：5 个三进制数字、243 个取值、每码占 1 字节）、转换器与 GPU 推理实现。在 NVIDIA L4 上对 Qwen2.5-0.5B-Instruct 实测，其 prefill 吞吐较 TorchAO FP8 提速 3.21 倍，作者还发布了完整仓库与演示视频。

2026-10-30 ~ 2026-10-30 · 3 条相关

• 重复帖:平衡三进制 K5 推理吞吐超 FP8 三倍(见前条) — Code_MasterCody · 2026-10-30
• 平衡三进制 K5 权重推理实测：吞吐超 TorchAO FP8 三倍 — Code_MasterCody · 2026-10-30
• 自研三进制权重 K5 在 L4 上反超 FP8:prefill 提速 3.21 倍 — Code_MasterCody · 2026-10-30