LeapQuant:线性注意力状态 8/4bit 量化,免训练吞吐翻倍
SonglinYang4 · x · 2026-11-13
针对线性注意力模型,研究者指出循环状态(recurrent state)本身正成为新的瓶颈。LeapQuant 提出让 8/4-bit 线性状态无需训练即可工作:精度无损,吞吐提升 2 倍。
所属事件:LeapQuant 免训练量化线性注意力，吞吐翻倍(4 条相关)→
「Infra」频道最新
- 数据架构入门图解:六模块讲清集中式/去中心化/混合三种架构取舍 — nevrekaraishwa2 · 2026-11-13
- 爆料称 Azure 底层架构长期不稳,重大故障已无明确根因 — thedealdirector · 2026-11-13
- NAVER AI Lab 推出 FOAM 优化器：一半状态内存追平 SOAP 与 Muon — naver-ai · 2026-11-13
- 微软服务大面积中断，洛杉矶县警局邮件与通讯受阻 — Kyrannio · 2026-11-13
- 黄仁勋遭董事会罢免内幕：云厂商逃离英伟达，晶圆如雪崩压顶 — SumitGup · 2026-11-13
- SpaceX 得州建 240 亿美元超算基地，先清走 60 年垃圾 — elonmusk · 2026-11-13