曝小团队后训练 Qwen3 27B,GQA 转 MLA 省 8.4 倍 KV 缓存
ChrisGPT · x · 2026-10-21
博主 ChrisGPT 称听说一个小的 AI 研究团队正在对 Qwen 3.8 27B 做后训练实验。据称其核心成果是一种事后（post-hoc）GQA→MLA 转换方法，无需额外训练即可将 KV-cache 显存需求最多降低 8.4 倍。消息为传闻性质，未附论文或代码，细节有待证实。若属实，这类免训练的注意力架构转换对开源模型本地部署与推理成本优化意义不小。
「Infra」频道最新
- Shotwell:Starlink 已签约约 1.2 万架飞机,占全球可装机四分之一 — XFreeze · 2026-10-21
- 三星电机与美光签约 3600 亿韩元，AI 服务器基板长期供货 — demian_ai · 2026-10-21
- David Ondrej 对谈 Ahmad Osman:本地跑 AI 全攻略与 DGX Spark 对比 — David Ondrej · 2026-10-21
- 8GB 显卡跑 Qwen Flash:换 STRATA+ CachyOS 后从 9t/s 飙到 48t/s — Ne00n · 2026-10-21
- 新泽西启动超算计划:超 1.25 亿美元翻倍高校算力,NVIDIA 联合创始人站台 — Prof_DavidBader · 2026-10-21
- AI 基建公司 ASI 宣布 3.25 亿美元 C 轮,做关键物理设施的「自动神经系统」 — darian314 · 2026-10-21