70 位作者长文综述:代码基础模型到编码 Agent 的实践指南
mdancho84 · x · 2026-11-11
推荐一本值得收藏的综述论文 《From Code Foundation Models to Agents and Applications》(arXiv:2511.18538),由 Jian Yang 等 71 位作者合写,覆盖从代码基础模型到编码 Agent 与应用的完整图景。
论文指出 LLM 已通过 GitHub Copilot、Cursor、Trae、Claude Code 等工具实质性改变了自动化软件开发。作者在系列推文中提炼了多条要点:
- 「对齐税」真实存在:安全对齐可能削弱编码能力,论文讨论了缓解这一权衡的方法。
- 多智能体辩论可减少幻觉:配置得当能改善复杂工程结果,配置不当则 agent 之间互相强化错误。
- 「Lost in the middle」依然成立:超长上下文窗口不保证利用率,埋在中间的关键信息仍会被漏掉。
- 结构比完美事实更重要:教模型思维链时,模型学到的是拆解问题的模板,而非每个中间步骤的字面正确性。
- 代码模型默认不安全:用公开仓库训练会继承十年的不安全编码模式,安全微调并不能根治。
- MoE vs Dense = 能力 vs 稳定:MoE 容量更高但 SFT 阶段更脆弱,超参与路由稳定性是关键。
- 编码 scaling law 并不均匀:不同语言所需数据量差异很大,企业级语言反而更容易,Python/JS 反而更难。
- Python 对模型意外地难:多语言混合预训练有帮助也有反例,Python 的动态类型会带来负迁移,而 Java↔C#、JS↔TS 有强协同。
所属事件:50 余位研究者发布 303 页代码智能与 Agent 实战综述(2 条相关)→
「编程与Agent」频道最新
- Anaconda LLMOps 指南:检索质量会独立于模型退化 — anacondainc · 2026-11-11
- 开发者晒自建 agent:「持久对象大脑+按需电脑」,支持本地或远程 — samgoodwin89 · 2026-11-11
- Agent 编排实践:控制面用前沿推理,叶子节点跑快速模型加对抗校验 — clmt · 2026-11-11
- MCP Apps 随 server 发布,可运行于任何支持该扩展的 AI 应用 — ClaudeDevs · 2026-11-11
- MCP Apps 公测上线:规范仍与社区共同标准化中 — ClaudeDevs · 2026-11-11
- Claude 全面支持 MCP Apps:完整应用与网站可嵌入对话运行 — ClaudeDevs · 2026-11-11