本地 Agent 实测：小模型算数不可信，多智能体易集体谄媚
OpenComplaint524 · reddit · 2026-10-24
一位开发者在单 GPU 上用 Ollama/vLLM 跑本地 agent 循环（处理表格数据、风控与量化决策），系统测试了 Qwen 2.5（7B/14B/32B）和 Llama 3.1（8B/70B 量化），总结出两大失败模式：
1. 「看似合理的数学」幻觉
- 即使强制 JSON Schema（Outlines/Pydantic 工具调用），8B/14B 模型仍频繁输出数学上反转但看起来合理的数字，如把 1:3.0 的盈亏比写成 1:0.3，或给破净股幻觉出 4.2 的 PBR
- 强制多步 CoT 后 32B 略有改善，但延迟增加三倍，仍会丢负号、算错复合百分比
- 结论：LLM 应严格当作语义处理器、叙事合成器和自然语言路由器；一切算术、过滤和数值边界都应在原生 Python 中计算，再以只读上下文注入
2. 多智能体集体谄媚
- 多角色辩论（多头/空头/风控）中，若 Agent 1 以高语言置信度抛出错误前提，Agent 2/3 几乎必然附和
- 给 Agent 2 设「极度怀疑的审计员」人设，在 8B/14B 上不可靠——1-2 轮后就会让步
- 唯一可靠的修复是确定性硬编码否决：用非 LLM 的 Python 门控在数值阈值被违反时直接终止流程，无视 LLM 的「共识」
作者还向社区提问：小模型自验数值逻辑有没有可靠方案、多大参数量在延迟约束下才出现可靠结构化工具调用的相变。
「编程与Agent」频道最新
- Codex Mobile 提速更新：任务列表加载更快并加入缓存 — Dimillian · 2026-10-24
- 用户用 AI 生成存储管理面板，解决 Muse 100GB 空间爆满问题 — RichardsonDx · 2026-10-24
- 编码 agent 开发者分享日常用法：自动路由模型，SWE-bench 得 82% — BarathKanna · 2026-10-24
- Harness Engineering 实战:让 AI Agent 可靠的完整工程环境 — Pavan_Belagatti · 2026-10-24
- Vercel 上线反馈 CLI 与 MCP 工具,让 AI agent 直接替你提交 bug 反馈 — steren · 2026-10-24
- 一线观察：部署中的 agent 不是失控，而是过度谨慎地添堵 — repligate · 2026-10-24