安全工具需要保护?Hermes Agent 连 docstring 里的 shell 命令都拦

Teknium · x · 2026-11-15

Teknium 欢迎新用户加入 Hermes Agent 生态,并引用了一位开发者的趣事:对方为 AI agent 构建了一道安全防火墙,结果 Hermes Agent 自己把防火墙代码拦下了——原因是 docstring(文档字符串)里出现了一段 shell 命令。一行修复后恢复正常。

作者感叹:我们已到了"安全工具需要防备安全工具"的时代。这个案例生动展示了 coding agent 的安全护栏过于激进时的误伤场景,对做 agent 安全工具的开发者是个值得注意的反面教材。