safeagents 架构拆解:ATIF 轨迹格式加 110 个确定性检测器扫描工具调用
yb2698 · x · 2026-10-29
作者解释 safeagents 的设计:极轻量,是对 LLM 服务器的一层简单代理封装,基于 @evalstate 的工作构建。
- 工作机制:把每个请求转成 trace,在每次工具调用执行前运行 atif-scan——一个基于规则的轨迹分析库,提供 ATIF trace 格式和约 110 个确定性检测器。
- 可检测行为:沙箱侧信道(读 /proc/1/environ、k8s token、集群 API)、代理与网络隔离绕过(curl --noproxy、dig @8.8.8.8)、reward hacking 动作(改测试、写 reward.txt)。
所属事件:开源 safeagents:轻量代理拦截 Agent 危险工具调用(2 条相关)→
「编程与Agent」频道最新
- MemPalace 星标近5万：本地零API记忆系统召回率96.6% — thisguyknowsai · 2026-10-29
- GitHub Universe 后官方 Cookbook:上手 Copilot 新功能教程合集 — marlene_zw · 2026-10-29
- 四 人团队 Physera 招人:为多模态编码 Agent 造评测与训练基建 — himanshustwts · 2026-10-29
- 第三方应用复用 Claude 订阅撞上服务条款红线 — ZookeepergameOdd6078 · 2026-10-29
- Codex 子代理被指继承父上下文,Matt Pocock 修复 skills 仓库 — mattpocockuk · 2026-10-29
- 独立开发者自制 LLM 花费监控工具，异常用量自动告警 — WittyBoysenberry9860 · 2026-10-29