Floridi 团队新论文:把 Agent Harness 拆成八个组件做可移植规范
mikeflache · x · 2026-11-05
Nicolas Gertler、Claudio Novelli 与 Luciano Floridi 在 arXiv 发布论文《Towards Portable Specification of the Agent Harness》,聚焦围绕 LLM 的外部基础设施——"harness"(工具、提示词、记忆等)——缺乏统一定义与治理的空白。
核心内容:
- 将 harness 分解为八个可描述、可跨系统对比的功能组件;
- 提出可移植、带版本记录的规范框架,记录"哪个模型跑在哪个 harness 里";
- 论据:同一模型在不同 harness 配置下评测成绩可差数倍,且 agent 的相当一部分攻击面位于 harness 而非模型;harness 会在版本之间、运行之间甚至运行中被 agent 自行修改;
- 现有模型卡/agent 卡不含运行内有效配置序列,现行 AI 法案的文档义务也未覆盖此类记录。
作者主张:从关注模型内部权重转向外部基础设施,把 harness 作为系统的版本化组成部分显式记录,这对 AI 合规与审计同样关键。
「安全」频道最新
- Agent 拿你的合法凭证作恶，谁来识别那不是你的本意？ — Thessaly-Sorties · 2026-11-05
- Binance 遭 63 亿美元黑客攻击后，Slop Cash 尝试用代币激励开源维护 — 0xSammy · 2026-11-05
- Nature 发表「涌现失对齐」论文：窄任务微调可致模型广泛失对齐 — davidmanheim · 2026-11-05
- Uber 开源企业 AI agent 安全系统 ADR,登顶 GitHub Trending — thisguyknowsai · 2026-11-05
- Fintech 分析师警示 AI 主权风险:银行需要一个"最小可行银行"Plan B — mikeflache · 2026-11-05
- 谷歌允许学校"退出 AI"却只能靠关搜索,WaPo 记者解读争议 — _FelixSimon_ · 2026-11-05