Agora 论文:13 个 AI 研究员用 Git 共享记忆协作 12 天

suchenzang · x · 2026-09-22

arXiv 论文《Agora: Git as Shared Memory for Collective AutoResearch》提出把多个研究智能体的产出以 append-only DAG 形式存进 Git:每个 commit 记录一个结果、洞见、假设、验证或报告,并链接到先前工作;可搜索视图展示领先结果、被忽视的分支与验证状态,并给出多样性感知的实验建议。

作者报告了一次近 12 天的运行:13 个 LLM worker 在没有任务分配、没有中央规划器的情况下,用 Agora 解决一个权重迁移问题——给定 141 个预训练 donor 模型和一个 119.6M 参数、维度与所有 donor 都不匹配的 attention-SSM 混合模型,要求不靠训练数据和梯度更新来初始化目标模型。整个过程发布 1703 项贡献,把评估分数从 3.39 降到 1.899 bits per byte,追平了与训练过的 GPT-2 124M 差距的 62%;最优方法把 donor 的 next-token 统计压进目标的 embedding 与输出头,再通过对 attention/FFN/SSM 模块的稀疏编辑加入短程上下文,其 145 层 commit 祖先来自 15 个账号。参与者还发布了 165 次跨 95 个目标的独立复现,无失败报告。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →