论文指出，长篇政策文档难以可靠约束智能体

spIrr · hn · 2026-07-29

一篇关于 Handbook.md 的论文指出：长篇 policy 文档并不能可靠地约束 agent 行为。其核心结论是，当智能体进入具备工具调用能力的环境后，静态手册式规则并不是足够强的控制面。

这条结论同时具有 agent 安全和治理含义：用自然语言写下的规范，未必能在自主系统面对真实任务时继续生效，系统可能会忽略、重解释，或绕开这些约束。