4B 小模型当审查员把关 70 倍大 Agent,仅 4% 步骤多花 9-13% 成本
petrusenko_max · x · 2026-10-30
作者推荐 SWE-Verifier 思路:用一个小模型(4B)只在 Agent 的关键决策点做校验,检查不到 4% 的步骤,额外 API 成本仅 9-13%,却能管住比自己大 70 倍的编码 Agent。
他还分享了自己 WhatsApp DM Agent 的落地版本,配图给出完整设计:
- 选择性校验:只查关键决策点,对 DM Agent 来说就是「发送」这一步
- 上下文:第二模型读取该聊天最近 10 条消息
- 模型选择:用订阅版 claude -p(无需 API key),缺省时回退到经 Hermes 调用 DeepSeek(无工具)
- 确定性规则与模型校验并行运行
核心主张:与其每步都审,不如把审查门设在最不可逆的动作(如发送消息)之前。
「编程与Agent」频道最新
- AI 让形式化验证翻身:seL4 曾需 20 人年,如今初创公司号称可用 — lemire · 2026-10-30
- YC 实验:4 个 AI Agent 在 Minecraft 花 11 分钟任命一名「协调员」 — aiamblichus · 2026-10-30
- 微软发布 Mage-VL-Cowork:面向 GUI 与编码 agent 的视觉语言模型 — microsoft · 2026-10-30
- 给 WhatsApp 外联 Agent 定频控:每人 14 天只发一条推广 — petrusenko_max · 2026-10-30
- Nova v1 Flash 发布:把 AI 编程队友、自动化与 PR 审查塞进一个工具 — Gauri_the_great · 2026-10-30
- Cursor 市场惊现带 SSH 后门的恶意 Claude Code 扩展,约 5000 用户受影响 — cyb3rops · 2026-10-30