首尔大学提出 PN-Mix 混合精度 KV 缓存量化，低比特下保住精度
snu · hf · 2026-10-16
首尔国立大学发布论文 PN-Mix，针对长输出 LLM 推理中 KV 缓存的内存与带宽瓶颈，提出基于 query-key 范数定位重要 RoPE 通道对的混合精度 key 缓存量化方法。通过在 RoPE 通道对层面做注意力 logit 扰动分析识别关键通道，对重要通道分配更高精度，从而在 2-bit 等低比特量化下仍保持较强准确率。
「研究」频道最新
- AI 驱动的时序感知功耗优化:学习排序+基线保全策略回收布线后功耗 — Amit Sharma · 2026-10-16
- 阿里提出 Waypoint-OPD:用方向一致性门控蒸馏 RL 策略迁移 — Bingxi Hou · 2026-10-16
- MJev-Spatial:单次前向分类框架做空间推理,快过自回归 VLM — mindlab-research · 2026-10-16
- 上海AI Lab发布 MLExpert:35B 智能体自主完成长程机器学习工程 — Shangheng Du · 2026-10-16
- 浙大提出 VLA-Δ:显式监督物理状态转移提升机器人控制 — OmniAI-ZJU · 2026-10-16
- 阿里 Token Foundry 开源 Cowork-Gym:批量合成协作 Agent 工作环境 — Anni Zou · 2026-10-16