Google 与 CMU 新论文：多目标自进化让 Agent 安全增益可迁移
rohanpaul_ai · x · 2026-10-15
Google 与卡内基梅隆大学的新论文《Harmony Harness: Multi-Objective Self-Evolution of Agent Harnesses》指出：自进化 agent 在把「安全」作为独立目标来进化时，安全增益的保持效果好得多。
背景问题：Agent harness（模型外围的提示词、工具与循环）如今能依据执行反馈自我重写。但多数此类系统只追逐单一分数（如测试通过率），且把 harness 当作单体产物来进化，导致其获得的安全增益在新任务上大多消失，也无法区分可迁移设计与环境特定适配。
方法：Harmony Harness 把 harness 进化建模为多目标优化问题，用基于分解的进化搜索在帕累托前沿不同区域维持解，避免依赖手工设计的结构多样性指标；同时引入因子化进化算子，分别精炼通用 harness 机制与基准特定适配，并在推理时通过动态组合工作流整合二者。
结果：在 SecRepoBench 和 BaxBench 上，Harmony Harness 稳定优于强 harness 进化基线，两个基准上增益均超过 10%。结论是：显式建模目标权衡与 harness 结构，比现有单目标、单体式方法能带来更强且更可迁移的 agent 进化。
所属事件:Google 与 CMU 论文：多目标自进化让 Agent 安全增益可迁移(2 条相关)→
「编程与Agent」频道最新
- Marc Lou 公开安利 PostShiba：独立开发者的邮件基础设施新选择 — marclou · 2026-10-16
- RExBench 基准:最强编码 Agent 自主完成研究扩展成功率仅 33% — najoungkim · 2026-10-16
- 开发者把 Pstack skills 装进 Grok bot 与 Hermes agents — alexcovo_eth · 2026-10-16
- past.dev 推出 Agent 长期记忆 API,登顶 BEAM 公开记忆基准 — thisiskp_ · 2026-10-16
- Google 发布 CLASHarness:基准测试多智能体冲突下的计算机操作能力 — google · 2026-10-16
- mitsuhiko：让 AI 直接写多人联机，意外学会 PeerJS — mitsuhiko · 2026-10-16