自我改进 Agent 的 harness 编辑须经独立新任务验证才可保留
rohanpaul_ai · x · 2026-10-16
一项新研究探讨会重写自身 harness(提示词、记忆、工具与外围代码)的自我改进 agent:被接受的修改会带入后续运行,坏修改可能过拟合、抹掉旧技能甚至扩散到其他用户。作者把 harness 自我改进方法映射到进化算法——从简单的保留最优,到档案库、Pareto 选择和 bandit 引导的预算。核心准入规则:只有当一个修改在全新、独立的任务上以设定幅度击败当前版本时才被接受。案例数据:GPT-5.4-nano 配合进化的 harness 与技能在 SpreadsheetBench 得 77.58%,GPT-5.5 仅做技能调优得 76.20%(成本未对齐)。作者建议把评估器、权限系统和紧急停止机制放在 agent 可触及范围之外。
所属事件:新研究提出自我改进 Agent 的 harness 自进化准入规则(2 条相关)→
「编程与Agent」频道最新
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- Vercel 推 Token Pass:每月 30 美元得 80 美元 GLM 5.3 与 Kimi K3 额度 — evilrabbit_ · 2026-10-16
- Together AI 成 Muse Spark Open Day 0 上线伙伴，主打长程 Agent 编码 — togethercompute · 2026-10-16
- Muse Spark Open 四大能力：1M 上下文、多模态输入、长程自纠错 — togethercompute · 2026-10-16
- Runway 接入 Replit：在网页项目中直接生成图像视频素材 — tlakomy · 2026-10-16
- Cua 推出 Spaces 团队版：让人类与 computer use 智能体共用同一桌面 — Scobleizer · 2026-10-16