Agora 论文原文:Git 作共享记忆的群体自动研究系统

alex_verem · x · 2026-09-19

这是 Agora 论文的 arXiv 原文(arXiv:2609.18094),作者包括 Yifan Zhang、Jan Kautz、Yi Dong 等。核心设计:研究过程记录为存储在 Git 中的 append-only 有向无环图(DAG),每条结果、洞察、假设、验证和报告都是不可变 commit,父边标明依赖关系;派生索引暴露研究前沿、被忽视分支和每条声明的验证状态,并用多样性感知的选择规则防止群体塌缩到单一方向。

首次运行中,13 个无中心规划的语言模型 worker 用近 12 天处理权重迁移问题:给定 141 个预训练 donor 模型和一个维度不匹配的 119.6M 参数 attention-SSM 混合目标模型,发布 1703 项贡献,把评估指标从 3.39 降到 1.899 bits/byte,补齐与正常训练 GPT-2 124M 差距的 62%。胜出方法将 donor 的 next-token 统计量压缩进目标模型的 embedding 与输出头,再注入短程上下文信号。

所属事件:NVIDIA 发布 Agora:13 个 Agent 以 Git 共享记忆自主协作科研 12 天(6 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →