GPT-5.6 Sol 自我优化推理栈:成本降20%,效率升15%
智东西 · wechat · 2026-07-30
OpenAI 揭示了其最新模型 GPT-5.6 Sol 在系统自我优化方面的技术细节。通过让模型自主优化底层代码与调度逻辑,OpenAI 实现了端到端推理成本降低 20%,Token 生成效率提升超 15%。
推理服务体系优化
- 内核与代码优化:GPT-5.6 Sol 通过 Codex 自主编写和优化 Triton 与 Gluon 核心代码,改进前向传播计算。
- 推测解码:部署小型预测模型与主模型协同,GPT-5.6 Sol 自主训练并调优预测模型,大幅削减串行计算开销。
- 精细化超参:模型能够解析真实线上负载,针对不同场景动态优化 KV 缓存管控和批处理参数。
智能体调度基座优化
为减少冗余计算,OpenAI 重构了智能体调度框架:
- 延迟加载:工具与 MCP 插件仅在实际调用时载入,限制单次输出上限以防止上下文膨胀。
- 前缀缓存复用:将历史数据设为仅追加模式,稳定保留提示词前缀缓存,避免重复计算。
ARC-AGI-3 评测翻车真相
此前 GPT-5.6 Sol 在 ARC-AGI-3 评测中得分极低,OpenAI 解释这并非模型能力缺陷,而是智能体调度框架配置不当所致。原测试框架会清空模型的私有推理过程并使用滚动截断丢弃历史记录。当启用 Responses API 的推理记忆留存与上下文压缩功能后,模型得分飙升至 38.3%,且 Token 消耗大幅缩减。
所属事件:OpenAI发布GPT-5.6系列:Luna降价80%,Sol推Fast模式(67 条相关)→
「编程与Agent」频道最新
- 相连的步骤≠工作流:Agent 跨应用交接无人把关 — usehive · 2026-10-16
- 用 Opus/Astra/Argon 生成 Blender 动画:怎么描述依然决定成败 — chongdashu · 2026-10-16
- 32GB 内存+8GB 3070 跑 PolyStrata+ Cline,约 90 tok/s — rpwoerk · 2026-10-16
- 模型能力还是基础设施?Agent 评测的分层归因难题 — jrxna · 2026-10-16
- 让 Claude 读完书和高手代码再写 claude.md,「已比我写得好」 — blaizedsouza · 2026-10-16
- Claude Code 插件 /label:一步自动命名并着色会话 — hermanschutte · 2026-10-16