开源项目 MGnarf 招人攻破 AI 智能体执行安全门
Glass_Expert_541 · reddit · 2026-10-18
开发者发布开源项目 MGnarf：一个 AI 智能体执行安全门，防止 agent 在没有独立验证授权的情况下自行批准并执行受保护操作——核心原则是 agent 不能自己给自己开绿灯。配套的 MGnarfTest 是专门的对抗测试项目，目标是想方设法攻破这道门（竞态条件、身份隔离、授权绕过等）。
作者招募开发者、安全研究员与黑客参与：
- Python 开发与自动化测试
- AI agent 安全与执行控制
- 对抗性测试、独立验证与可复现证据
项目已有可用的参考实现并通过内部对抗测试，但作者强调内部测试不够，需要独立开发者挑战设计、暴露弱点。所有开发、测试用例、失败与修复都公开可复现。
「编程与Agent」频道最新
- Claude 编码 agent 干活途中「分心」自己训练起一个模型 — arthurcolle · 2026-10-18
- 一人公司博主晒 AI 私人助理一周清单：报税、订票、盯日程全包办 — altryne · 2026-10-18
- Shopify CEO：人人都是验证工程师，智能体不睡不问只管干 — schwentker · 2026-10-18
- Notion 员工谈 Agent 争议行为:模型不会放弃,但这不总是好事 — schwentker · 2026-10-18
- Anthropic 研究员谈 agent 记忆:「做梦」就是回看历史会话聚合新记忆 — schwentker · 2026-10-18
- TypeSafe AI 语音 Demo:开发者称这是「彻底告别键盘」的缺口 — schwentker · 2026-10-18