复现 Recirculation：Gemma 3 无需微调 PPL 降 23%
CatAstro_Piyush · x · 2026-08-28
独立研究者复现了 Recirculation 论文中的方法，确认在 Gemma 3 1B 模型上，通过将源层 11 注入目标层 4，能有效降低困惑度（PPL）。原论文提出这是一种推理时的架构增强技术，无需训练即可在生成和推理任务中提升准确性。在 Gemma3 系列上的测试显示，该方法能减少 23% 的 PPL，并在 GSM8k 上提升 21% 的准确率。
「研究」频道最新
- 腾讯发布 GameWAM：统一游戏控制的世界-动作模型 — tencent · 2026-08-28
- 新范式：用游戏开发 Agent 验证世界模型轨迹数据 — NationalUniversityofSingapore · 2026-08-28
- 观点：视觉智能常在未预料案例中失效，应先采用多视角定义 — HirokatuKataoka · 2026-08-28
- LLM Agent 评估综述：构建二维分类框架与企业落地挑战 — kalyan_kpl · 2026-08-28
- 用 60 行 TS 构建科幻电影 RAG 智能体 — mastra_ai · 2026-08-28
- 2026 年 AI 系统 Danus 复现复杂拟阵理论证明，机器可写完整论文 — maier_ak · 2026-08-28