研究证实:让 LLM 输出精简真能省钱
ibubbles34 · reddit · 2026-08-22
研究测试了在 9 个模型上压缩输入 Prompt 与要求模型输出精简两种策略的效果。结果显示:
- 压缩输出:平均节省约 1.5 倍成本,最高达 3 倍,且准确率基本保持不变,多语言测试也有效。
- 压缩输入:适得其反,成本最高增加 96%,因为模型会通过增加输出长度来弥补信息缺失,且准确率下降。
- 研究建议直接通过 API 提示词控制输出长度来省钱,因为输出 Token 通常比输入 Token 更贵。
「研究」频道最新
- WEDGE 论文:把导航失败经历变成可学习的训练环境 — _akhaliq · 2026-10-16
- RExBench 基准:最强编码 Agent 自主完成研究扩展成功率仅 33% — najoungkim · 2026-10-16
- Google 发布 CLASHarness:基准测试多智能体冲突下的计算机操作能力 — google · 2026-10-16
- 清华团队证明:普通 Flow Matching 采样无法突破固定深度模型表达力上限 — SQZ · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16