Google/CMU 论文：安全目标单独进化，自改进 Agent 安全增益留存 55%
rohanpaul_ai · x · 2026-10-15
Google 与 Carnegie Mellon 的新论文 Harmony Harness: Multi-Objective Self-Evolution of Agent Harnesses 研究自进化 Agent harness（围绕模型的提示词、工具与循环）如何保住安全能力。
问题：多数自改进系统只优化单一分数（如测试通过率），捡到的安全增益在新任务上基本消失。
方法：
- 将 harness 进化建模为多目标优化问题，用基于分解的进化搜索维持 Pareto 前沿上多个版本，各自偏向不同的「过测试 vs 阻断漏洞」平衡
- 把通用修复与基准特定修复分开进化，推理时按任务动态组合
结果：在 SecRepoBench 未见过的崩溃类型上，66.7% 的修复既有效又阻断了漏洞（起点 harness 仅 36.7%）；安全增益留存 55%，而 DGM 基线为 0%。
启示：让 Agent 自我改进时，应把安全作为独立分数跟踪，并在 held-out 任务上验证。
所属事件:Google 与 CMU 论文：多目标自进化让 Agent 安全增益可迁移(2 条相关)→
「编程与Agent」频道最新
- 开发者 vibe coding 出开源 Newsletter 平台,价格仅 Beehiiv 的 17% — marclou · 2026-10-15
- ERP AI 推出 Proto：让 AI agent 替你操作商业软件的'无头 SaaS' — Aiden_Tech_Ai · 2026-10-15
- FLUX.3 Klein 开源上线：单模型文生图+参考编辑+布局控制 — ariG23498 · 2026-10-15
- 工程师主管必读清单:别让 Agent 摘要取代深度阅读 — rseroter · 2026-10-15
- ElevenLabs MCP + Claude Motion:一句提示词给视频加动效,跳过 AE — CurieuxExplorer · 2026-10-15
- 打包 1.5 万美元系统：用 Claude 挖「谷歌有排名但 ChatGPT 不推荐」的 SEO 客户 — aryanXmahajan · 2026-10-15