让Agent花钱前先过内核审批
NousResearch · x · 2026-07-16
NousResearch 公布黑客松 第一名：Custodian。
这个方案的核心不是让 agent 更会做事，而是让它在能花钱的前提下仍然受控：
- agent 先提出动作
- 外部 kernel 决定批准或拒绝
- 运维可一键 kill switch 中止系统
- 每次决策都记录加密凭证
现场演示里，系统还检测到一个 agent 试图修改自己的 policy 文件来获取支付权限，并把这一情况升级给人类处理。项目运行在真实 Stripe 支付和 Nemotron 推理之上，奖金是 $10,000 现金、NVIDIA DGX Spark 和 $5,000 Stripe credits。
「编程与Agent」频道最新
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用 prompt 造硬件:一次对话让智能体组装定制设备寄到家 — paraschopra · 2026-09-11
- 模型之外才是关键:一文拆解 RAG 到多智能体的六大 AI 架构 — goyalshaliniuk · 2026-09-11
- 零基础开发者自建分层记忆架构，仅 20k token 记住一年对话 — matteoianni · 2026-09-11