GPT-5.6 自主重写生产内核,OpenAI 服务成本降 20%
新智元 · wechat · 2026-07-30
OpenAI 让 GPT-5.6 接入了真实的生产推理栈,自主重写并优化了负责运行模型的底层 GPU 内核。官方数据显示,此次优化使对外服务成本降低了 20%,推测解码的改进也让 token 生成效率提升了 15% 以上。
- 核心优化点:模型分析了真实生产流量,重写了 Triton 和 Gluon 编写的 GPU 内核,优化了负载均衡与 KV 缓存,并针对推测解码自主设计并训练了更小的 draft 模型。
- 自优化飞轮:这标志着一个闭环跑通——模型能自主完成“分析流量、提出优化、写代码、跑实验、验证结果”的循环。模型越强,越能优化推理栈;推理栈越高效,同等硬件就能服务更多用户。
- 并非递归自我改进(RSI):目前模型仅优化了运行环境和辅助模型,并未改动主体权重。OpenAI 强调目标设定和上线验证仍由工程团队把控,但这为未来的 RSI 奠定了基础。
所属事件:OpenAI发布GPT-5.6系列:Luna降价80%,Sol推Fast模式(67 条相关)→
「Infra」频道最新
- 卖一张 5090 换四张 R9700:显存翻倍值不值 — poofph · 2026-10-16
- 32GB 内存+8GB 3070 跑 PolyStrata+ Cline,约 90 tok/s — rpwoerk · 2026-10-16
- TensorFold 1.0.12 发布:120B 视觉模型跑进 1-2 台 DGX Spark — HankYeomans · 2026-10-16
- vLLM 适配 NVIDIA RTX Spark PC,前沿模型可本地部署 — vllm_project · 2026-10-16
- 黄仁勋预告 GTC 柏林再签约 20 亿美元,欧洲 AI 投入将达约 100 亿美元 — CurieuxExplorer · 2026-10-16
- Martin Fowler 刊文:让数据为 Agentic AI 就绪,先修信任再谈语义 — bibryam · 2026-10-16