Nemotron 3.6 Academia 即将登陆 llama.cpp:循环混合架构获原生支持
maternion · reddit · 2026-11-22
llama.cpp PR #32765 正在推进对 Nemotron 3.6 Academia 的支持——这是一个结合 Gated Delta Product(GDP)、稠密注意力与 MLP 层的循环混合模型。
该 PR 还支持与 Dory 相同的 lastloop KV 缓存;合并前还有一个 Rectangular GDN States 的 PR 待完成(配图显示该 PR +283/-125,改动 19 个文件)。
「Infra」频道最新
- 稀疏 MoE 让 SSD 成本地 AI 瓶颈,Magnitude 引擎直读 NVMe 破 VRAM 墙 — rickasaurus · 2026-11-22
- llama.cpp 新增 Nemotron 3.6 Academia 循环混合模型支持 — maternion · 2026-11-22
- 两张 RTX 3090 跑 Inkling 2 Mini:557K 上下文 + 视觉,约 100 tok/s — Sisuuu · 2026-11-22
- OpenAI 工程师确认 GPT-Live 缓存亲和 bug,周一将推修复 — pbbakkum · 2026-11-22
- Lambda 用英伟达 CPO 交换机连万卡 GB300 集群,延迟最高降约 10% — Beth_Kindig · 2026-11-22
- Dragos 埋 200 万条假 AWS 密钥实测:AI 提示词并非私密,多家供应商遭入侵 — serendip-ml · 2026-11-22