Recirculation 架构助 Gemma3 困惑度显著降低
xennygrimmato_ · x · 2026-08-20
展示 Gemma3 模型系列在使用 Recirculation 架构后困惑度的降低情况。对比图显示,相较于 Unrolled loop transformer,Recirculation transformer 在不同模型家族中均能实现困惑度下降。
所属事件:DeepMind 推出 Recirculation:无需重训增强 LLM 推理(10 条相关)→
「研究」频道最新
- 五药企联邦训练 OpenFold3:2 万私有结构数据不外泄提分 11 个点 — jiqizhixin · 2026-10-16
- 新水印框架 SWAN 把签名藏进句义,改写也难抹掉 — burkov · 2026-10-16
- 可解释性圈起争执:"神经网络本就干净"结论被指夸大 — aryaman2020 · 2026-10-16
- LayerTrim:免训练剪枝保住推理模型 AIME 能力 — SeoulNatlUniv · 2026-10-16
- Simular 在 BayLearn 展示神经符号化计算机使用 Agent — xwang_lk · 2026-10-16
- Google 量子负责人 Neven 谈芯片测试争议并计划把大脑连上量子计算机 — Chris_Armstrong · 2026-10-16