llama.cpp 新增 Nemotron 3.6 Academia 循环混合模型支持

maternion · reddit · 2026-11-22

Reddit 用户分享 llama.cpp 的两个新 PR(#32766 与 #32765):前者为 NVIDIA 的 Nemotron 3.6 Academia 添加支持——这是一个循环混合架构模型,结合 Gated Delta Product(GDP)、稠密注意力与 MLP 层,支持共享循环权重、loop 条件化,以及 perloop 和 lastloop 两种注意力 KV cache;后者为矩形 GDN 状态提供支持。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →