Astra Ultra 给 karpathy 的 minGPT 提 PR:参数遍历从 422 次降到 77 次
Kuprel · x · 2026-09-10
Kuprel 披露,Astra Ultra 为 karpathy 的 minGPT 仓库提交了一个真实优化 PR(#161):修复优化器初始化中的递归参数遍历问题。
- 问题:optimizer setup 已用 namedmodules() 遍历所有模块,但内部的 namedparameters() 又递归重复访问后代参数;
- 修复:改用 recurse=False,让每个模块只分类自己的参数;
- 效果:在六层测试模型上,参数访问次数从 422 降到 77,同时保持 weight-decay 分组不变;
- 验证:在 1/3/6 层 tiny GPT 上对比原实现,优化器分组(含参数顺序)完全一致,AdamW 一步后模型状态逐位相同。
这是 AI coding agent 向知名开源仓库提交可合并的、带完整验证的优化的典型案例。
「编程与Agent」频道最新
- Salesforce 发布 EvoHarnessBench:考验 Agent 应对工具与环境持续演进 — Salesforce · 2026-09-10
- 清华+Qwen团队:重建代码环境训练Agent,Terminal-Bench提升至58.1% — rohanpaul_ai · 2026-09-10
- 网友呼吁:让 Codex/Claude 沉淀流程文档,防模型哪天不可用 — moonsandhues · 2026-09-10
- 开源 Whatomate:单二进制 WhatsApp AI 客服平台获 1.5k Star — tom_doerr · 2026-09-10
- Reddit 网友用 Kanban 看板管理 AI 子代理,彻底解决上下文膨胀 — Clean-Vermicelli-700 · 2026-09-10
- 开源 Nomos 项目:如何系统性测试 AI 代理权限是否过宽 — Excellent-Hour7253 · 2026-09-10