开源 Sabi-Noema:27B 微调省一半 token,智能体成绩超同级
ExperienceDry6608 · reddit · 2026-10-15
团队发布基于 Qwen 3.8 27B 的两个后训练开源模型 Sabi-Noema 与 Sabi-Noema-MLA,主打小模型能力与推理效率双提升,全部只用开源环境训练:
- 能力:在 DeepSWE 上超过对比的 Luna-medium;在 TB2.1、Tau-3、ClawEval、BFCL v4 等智能体与工具调用基准上超过 Luna-high,幻觉率显著更低
- 效率:TB2.1 上每回答少生成 50% token,DeepSWE 少 25%;对 Qwen 的 GQA 注意力做了免训练的后置 MLA 转换,BF16 下每 token 字节数降低 3.6 倍,KV cache 压到 FP8 后在 TB2.1 上缩小 8.4 倍
- 实际意义:q40 量化下,单张 24GB 显卡(3090/4090)可跑约 534K 上下文,而原版 Qwen 用 FP8 cache 只能到约 150K
模型已在 Hugging Face 开源,团队称后续会发布更多聚焦 30B 以下的后训练版本。
「模型」频道最新
- Perplexity 上线 Gemini 4 Argon,称刷新 WANDR 基准纪录 — AravSrinivas · 2026-10-16
- 开发者吐槽现行 DLP 全是正则方案,欲用 LLM NER 重做 — HankYeomans · 2026-10-16
- 爆料称 GLM 5.5 与 Kimi K3.1 即将发布,或与反蒸馏封锁有关 — zephyr_z9 · 2026-10-16
- 75 家企业真实工作基准:GPT-6 与 Claude 排名随任务反转 — BorisMPower · 2026-10-16
- Google 年付 Gemini AI Plus 用户遭中途降级,11月13日起失去 Pro 模型 — Ray_ProUser · 2026-10-16
- 夸一句就出图:小模型画鹈鹕骑车SVG画质飙升 — Fancy-Snow7 · 2026-10-16