康奈尔研究显示,JSON 模式压缩 44 个模型答案多样性
omarsar0 · x · 2026-07-23
结构化输出不只是改格式,还会压缩答案多样性
康奈尔的一篇论文重新检验了一个常见假设:JSON mode 只是输出格式,不会影响内容。作者用 44 个语言模型 和 31 组开放式题目 做实验后发现,情况并非如此。
主要结果
- 在一个开放式“选一个词”任务里,仅仅要求模型输出 JSON,就把最常见答案占比从 41% 提到 64%,同时将不同答案数从 52 个降到 36 个。
- 这种“答案塌缩”出现在 JSON 和 XML 上;这两种格式本来就是模型后训练中常见的输出格式。
- 但在 YAML 和 CSV 上,这种现象不明显。
- 直接在解码器里强制 schema,并没有进一步压缩结果,说明变化主要发生在模型生成回答的阶段,而不是后处理阶段。
- 在一次重采样实验里,53% 的稳定聊天默认答案在 JSON 模式下发生变化,而且大多回到更常见的那一侧。
启示
如果你的 agent、抽取流水线或工具调用严重依赖 JSON mode,实际拿到的答案分布可能比你在聊天界面上看到的更单一。
「编程与Agent」频道最新
- 浏览器主线程很贵:动画卡顿的真正成本与前端优化实践 — jh3yy · 2026-09-11
- 受 OpenAI 万机群启发,开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid:只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题,供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11