Zyphra 将次二次注意力 ZHA 扩到万亿参数开源模型,长上下文提速 9-60 倍
realmrfakename · x · 2026-11-18
Zyphra 宣布将其次二次复杂度注意力方法 ZHA(Zyphra Subquadratic Attention)扩展到多个主流开源万亿级参数模型,包括 Nemotron、Qwen、Mimo 和 GPT-OSS。
- 在 1000 万 token 上下文下实现 9-60 倍的长上下文加速
- 官方称推理与智能体性能得以保持
- 配图主题为「将次二次注意力扩展到万亿参数」
「Infra」频道最新
- SpaceX CFO:2027年发射首批轨道计算卫星,算力将迁入太空 — XFreeze · 2026-11-18
- Lambda 部署 NVIDIA 光电共封装交换机:延迟降 10%、可靠性提升 15 倍 — TheZachMueller · 2026-11-18
- NVIDIA 发布投机解码 draft,令 27B 模型 token 接受率提升 46% — _akhaliq · 2026-11-18
- Perplexity 发布 Orchestrator API:一个接口路由 45+ 模型统一计费 — perplexity_ai · 2026-11-18
- Replit 用智能体蜂群复刻 8.37 万美元/年监控平台,开源 DataCat — amasad · 2026-11-18
- Google Cloud 将改用阈值计费,月中也会自动扣款 — CtrlAltDwayne · 2026-11-18