任务感知量化 TAK：27B 模型以 15% 体积达到 BF16 99% 推理性能
devildip · reddit · 2026-09-08
开发者 ByteOtter 发布任务感知量化管线 TAK（Task Aware Knapsack），纯用任务语料 imatrix + 张量级精度分配（无剪枝/微调/合并），在推理基准上取得显著效果：
- Qwen3.8-27B：82.81%，vs 同字节 Unsloth UD IQ2S 77.34%（+5.47），BF16 为 83.59%，即 15% 体积保住 99% 性能
- Qwen3.5-4B：73.44% vs 61.72%（+11.72）
- Gemma 4 E4B：69.53% vs 55.47%（+14.06）
- Gemma 3 4B QAT：54.69% vs 35.16%（+19.53）
TAK 融合 TASA 与 TAQ：先从任务特定语料构建 imatrix，再在字节预算内做张量级晋升/降级分配，产出面向任务的专用量化，全部在 held-out 数据集上测试，已覆盖 dense、QAT 与 MoE 架构。模型发布在 Hugging Face，下一步扩展到编码与数学领域。
「研究」频道最新
- 连续扩散+轨迹蒸馏，让语言模型一步生成代码 — pengzhangzhi · 2026-09-08
- AI 系统证明悬置数十年的 Erdős–Sós 图论猜想 — soumitrashukla9 · 2026-09-08
- 过早共识拖垮多智能体研究：隔离搜索提升 4 个百分点 — rohanpaul_ai · 2026-09-08
- 多智能体别急着开会：延迟共识让 BrowseComp 得分冲到 82.6% — rohanpaul_ai · 2026-09-08
- 用 astra 可视化线虫全部 302 个神经元及 3709 个连接 — mishig25 · 2026-09-08
- GraphWorkflow 内部机制:Kahn 拓扑排序加冻结执行计划实现低开销 — KyeGomezB · 2026-09-08