stuntd：本地 22ms 学你流量的 Jev 兼容决策代理
Inevitable-Log5414 · reddit · 2026-09-23
作者开源了 stuntd（Apache-2.0）：一个本地代理，拦截应用中的「封闭式 LLM 决策」（选择、是/否、打分），用你自己的流量在开源模型 Laya 上训练一个小 head（编码器冻结），先影子模式运行，与付费 API 达到目标一致率后才切换为线上服务，置信度不足时回退到原 provider。
动机与效果
- Jev API 约 380ms 往返且按 token 付费；Laya 本地笔记本 GPU 上约 22ms，但零样本在大标签集上崩：banking77（77 意图）只有 38%（Jev 76%）
- 用流量训练 head 后：Snake 游戏 30 局教学 138 秒训练后自行处理 99.6% 步数；客服分诊问题 90% 本地回答；命令门控（允许/询问/拒绝）从 45% 提到 97% 准确、96% 本地化
限制
- 只学封闭决策，不做自由文本；冻结编码器不会做字段运算——「amount > X」规则得分 0.42，改写成自然语言描述则 0.94
- 每次启动加载 1.6GB 检查点；Anthropic/Responses/Gemini 流量暂时直通
还附带一个 20 行的 PreToolUse hook，在 Claude Code 执行 shell 命令前用本地 commandgate 问询。
「编程与Agent」频道最新
- 一张参考图直接生成可飞行探索的 three.js 3D 场景 demo — majidmanzarpour · 2026-09-23
- 网传 GPT-6 可在浏览器操控 Paint 作画,演示引热议 — alexcovo_eth · 2026-09-23
- 双 Agent 并行开发实测:git 干净合并后测试全挂 — RunAI_Coder · 2026-09-23
- 手机拍照文本进电脑:OCR、视觉模型与 Agentic 流水线选择讨论 — silenceimpaired · 2026-09-23
- Free Bots:一座 AI 机器人真正「住」进去的持久 3D 城市 — Daniel_Farinax · 2026-09-23
- 游戏开发或是最抗拒 AI 编程的领域，实际使用情况引热议 — marktenenholtz · 2026-09-23