开源 neuroformatting v0.2.10:在副作用触发前拦截幻觉工具调用与 [PLACEHOLDER] 泄漏

demirtasfurkan_ · reddit · 2026-11-22

JSON Schema 校验返回 200 OK 并不代表安全。开发者 demirtasfurkan 在 neuroformatting v0.2.10 中扩充到 14 个语义测试用例,并新增一个最小的副作用守卫示例(examples/sideeffectguarddemo.py),在触发外部动作或路由前检查 payload 与风险/接地状态,拦截两类常见失败:

仓库:furkandemirtass/neuroformatting。作者同时抛出问题:guardrail 应放在流式过程中、工具副作用调用前,还是部署前的 CI/eval 检查?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →