为生产环境AI agent做运行时行为安全
Livid-Molasses8429 · reddit · 2026-07-08
一位19岁独立开发者指出，企业大规模部署Cursor、Claude Code等agent后，几乎没人能事后回答"agent到底做了什么、是否符合意图"。他认为现有工具盯错了层级:输入过滤只扫prompt，沙箱只控爆炸半径却看不见意图，而用另一个LLM分类行为的方案继承了它本应阻止的prompt注入面。为此他开源了一个进程内执行层(npm，约1000下载，已集成Claude Code)，确定性地监控工具调用与文件读取并与声明的意图比对，监控路径中无LLM、零额外运行开销。