GPT-5.6 Sol爆料：750tps
新智元 · wechat · 2026-07-09
新智元称，OpenAI 计划在本月于 Cerebras 定制硬件上推出前沿模型 GPT-5.6 Sol，推理速度据称可达 750 tokens/s，并将先向少量特定客户开放。
文章进一步推测，这可能是一个规模极大的多晶圆部署方案，OpenAI 可能围绕该硬件重构模型架构，以降低 KV cache 压力并提升实时 agent 任务体验。
所属事件:多帖称GPT-5.6在Cerebras上大提速(4 条相关)→
「Infra」频道最新
- ClickHouse 零秒级聚合 1000 亿行，parallel replicas 横向扩展揭秘 — Abhishekcur · 2026-10-18
- 论文：LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录，被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18