Inkling 发布并获首日推理支持
simonguozirui · x · 2026-07-16
引用内容显示，Thinking Machines 今天发布了 Inkling，并且：
- 这是一个可在 文本、图像、音频 上推理的多模态模型；
- 完整权重开放，可用于 Tinker 上的微调，也能在 Inkling Playground 体验；
- 生态侧已出现 Day-0 支持，相关推理栈提到了 NVIDIA B200/B300、AMD MI350X/MI355X、原生 FP4 serving、统一 kernel 架构、MTP、优化 attention 和 heterogeneous KV cache；
- 贴文还给出一组吞吐数据：在 4×B200 + MTP 下达到 355 tok/s/user。
所属事件:Thinking Machines 首发开权重 Inkling(169 条相关)→
「Infra」频道最新
- 双 DGX Spark 实测：GLM-5.3-Flash 写作与视觉胜过 DeepSeek-V4-Flash — kuhunaxeyive · 2026-09-03
- Jeff Dean 2007 年幻灯片流出：数据中心硬件故障实录 — SumitGup · 2026-09-03
- 谷歌 Hot Chips 发布第八代 TPU:一年两款芯片,推理训练分开设计 — firstadopter · 2026-09-03
- 数据中心耗水是迷思？现代机房多用闭路冷却，用水仅如写字楼 — GlenBradley · 2026-09-03
- 推理工程吃香：vLLM/SGLang 搭副本加缓存路由核心配方 — GabGarrett · 2026-09-03
- Databricks 在 VLDB 2026 主推 agent 原生数据基础设施 Lakebase — matei_zaharia · 2026-09-03