康奈尔研究显示，JSON 模式压缩 44 个模型答案多样性
omarsar0 · x · 2026-07-23
结构化输出不只是改格式，还会压缩答案多样性
康奈尔的一篇论文重新检验了一个常见假设：JSON mode 只是输出格式，不会影响内容。作者用 44 个语言模型 和 31 组开放式题目 做实验后发现，情况并非如此。
主要结果
- 在一个开放式“选一个词”任务里，仅仅要求模型输出 JSON，就把最常见答案占比从 41% 提到 64%，同时将不同答案数从 52 个降到 36 个。
- 这种“答案塌缩”出现在 JSON 和 XML 上；这两种格式本来就是模型后训练中常见的输出格式。
- 但在 YAML 和 CSV 上，这种现象不明显。
- 直接在解码器里强制 schema，并没有进一步压缩结果，说明变化主要发生在模型生成回答的阶段，而不是后处理阶段。
- 在一次重采样实验里，53% 的稳定聊天默认答案在 JSON 模式下发生变化，而且大多回到更常见的那一侧。
启示
如果你的 agent、抽取流水线或工具调用严重依赖 JSON mode，实际拿到的答案分布可能比你在聊天界面上看到的更单一。
「编程与Agent」频道最新
- Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
- 用去审查版 GLM 绕开 Claude 拒答： SS7 威胁建模工作流 — l4rz · 2026-10-27
- Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27
- GitHub Next 发布 Chopin:实时多人的 Agent 协作规划环境原型 — max__drake · 2026-10-27
- 开源项目 Veynod：给 AI 智能体搭一个共享协作工作区 — TKOWNS · 2026-10-27
- TMLR 论文：更强推理不等于更充分披露，Agent 思考越多未必告知越全 — SharonYixuanLi · 2026-10-27