Nemotron 3.6 Academia 即将登陆 llama.cpp:循环混合架构获原生支持

maternion · reddit · 2026-11-22

llama.cpp PR #32765 正在推进对 Nemotron 3.6 Academia 的支持——这是一个结合 Gated Delta Product(GDP)、稠密注意力与 MLP 层的循环混合模型。

该 PR 还支持与 Dory 相同的 lastloop KV 缓存;合并前还有一个 Rectangular GDN States 的 PR 待完成(配图显示该 PR +283/-125,改动 19 个文件)。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →