Trishool 用 0.8B 模型做 Agent 输出护栏，F1 达 83.63 创 SOTA
markjeffrey · x · 2026-11-01
Bittensor 子网 Trishool 推出 HaloGuard 输出护栏，用于防止企业 AI Agent「失控」，在公开基准上取得 83.63 平均 F1，超过此前最佳的 82.5，且所用模型仅 0.8B，为前最优模型的四分之一大小，足够小、足够便宜，可对每条响应做检查。
项目 Phase 3 数据：收到 7500+ 次越狱提交、125+ 名矿工参与、历时 15 周挑战。产品现开始向企业客户销售。
「编程与Agent」频道最新
- 把旅行计划交给个人 agent：订餐到提醒打包全程代管 — ColleenMBrady · 2026-11-01
- 给 Agent 写 /summarize /bookmark 等 skills，让发文章不再只有摘要一种解读 — gethackteam · 2026-11-01
- 开发者开源 Sentinel:在 MCP 工具输出进入模型前拦截指令注入 — Infamous_You7977 · 2026-11-01
- 从零手写 RSA 算法，开发者开源完整实现 — cneuralnetwork · 2026-11-01
- rakyll 预告 AX Studio:本地集群测试 Agent 后无缝上生产 — rakyll · 2026-11-01
- 黑客松研究发现:Agent 集群语言会随截止时间临近发生可测变化 — Miles_Brundage · 2026-11-01