开源 CLI 工具 RedThread:让 LLM Agent 红队测试用例可复现
Apprehensive-Zone148 · reddit · 2026-09-11
开发者开源了 RedThread,一个聚焦 Agent 安全评估的轻量 CLI 工具,针对一个具体问题:不可信文本(网页、文档、工具返回结果)可能悄然改变模型后续的工具调用,而最终答案看起来一切正常。
RedThread 会完整保存上下文片段、工具 schema、拟执行调用、响应与评分,形成可复放的测试用例——改 prompt、换模型或换适配器后都能重跑同一案例。作者强调:一次通过不代表生产安全,一次拒绝也不代表没有影响,目标是让安全声明可以被验证而不是被转述。
项目地址:github.com/matheusht/redthread
所属事件:RedThread 开源：让 LLM Agent 红队测试可复现(2 条相关)→
「编程与Agent」频道最新
- SEO 老兵用 Antigravity 搭 MCP 服务器，把算法更新清单变成 Agent 工具 — gaganghotra_ · 2026-09-12
- Devin Voice 上架 Product Hunt:动口就能让 Agent 干活交付 — thisiskp_ · 2026-09-12
- Grok Build CLI 登陆 Warp：订阅用户可在终端原生调用 Grok — Daniel_Farinax · 2026-09-12
- 15 美元 OBD2 适配器+DeepSeek：让 AI 实时读你汽车的「大脑」 — Aizkmusic · 2026-09-12
- GPT 图像分镜 + Seedance 成片,AI 电影工作流开源 — alexcovo_eth · 2026-09-12
- Agent 开发实战:别再单聊,让智能体互相发消息协作才是解锁点 — xeophon · 2026-09-12