从 Qwen3 1.5B 复现 Jev 思想:共享 KV 缓存的并行决策系统
Sam_Witteveen · x · 2026-09-20
博主尝试从零复现 Jev 背后的想法，从 Qwen3 1.5B 小模型起步，构建了使用共享 KV 缓存的并行决策系统，对串行与批量推理进行了基准测试，缓存正确性测试达到 100% 决策一致。帖子以线程形式总结经验教训。
「编程与Agent」频道最新
- 美联航将禁止个人AI代理代客预订机票 — Polymarket · 2026-11-12
- Agentic Search 图解：4 次搜索的循环成本约为单次搜索的 5 倍 — adnan_hashmi · 2026-11-12
- AWS 自曝：AWS Emulator 每行代码均由自主 AI Agent 编写 — SumitGup · 2026-11-12
- freeCodeCamp 上线 2 小时 Codex 智能体编码免费课 — adnan_hashmi · 2026-11-12
- 被严重低估的资源：跨模型跨厂商的工具调用可靠性实测 — ricklamers · 2026-11-12
- 整理 5.5 万数据点的教训:企业级 Agent 数据准备远比想象更难 — BenBajarin · 2026-11-12