OpenAI GPT-5.6 Sol登陆Cerebras，推理速度高达750 tps
ycombinator · x · 2026-07-08
OpenAI正通过Cerebras专用AI芯片推出GPT-5.6 Sol模型，推理速度可达每秒750个token，大幅超越传统GPU推理效率。
帖子同时介绍了Cerebras晶圆级芯片（Wafer-Scale Engine）的kernel架构原理——针对高速大规模推理进行专项优化，避免了GPU间通信瓶颈。
此次合作标志着前沿大模型与专用推理芯片深度整合趋势加速，超高速推理有望为实时AI应用带来新可能。
所属事件:OpenAI 官宣 GPT-5.6 Sol 周四发布，早期实测评价两极(58 条相关)→
「Infra」频道最新
- 论文：LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录，被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18