Inkling 开放权重多家可用,但不同服务商表现不一
acmurthy · x · 2026-07-28
这条帖子在说,开放权重模型正在迎来一个新阶段:模型更强、许可更清晰、可调可部署的方式也更多了。
链接文章拿 Thinking Machines 的 Inkling 做例子:它被描述为一个 975B MoE 的开放权重模型,并且采用 Apache 2.0 许可,发布当天就能在多个推理服务商上使用。文章重点不是单纯夸模型,而是追问一个更基础设施化的问题:同一份 weights,交给不同推理提供商托管后,表现真的一样吗? 作者对比了不同 provider 在准确率、质量、延迟和速度上的差异,结论是:即便底层权重相同,服务商选择也会显著改变实际体验。
「Infra」频道最新
- MinerU 可将 PDF 和 Office 文档转成 LLM 可用 Markdown — lxfater · 2026-07-28
- UNIUBI AI 四足机器人被指完成 720 度后空翻 — Scobleizer · 2026-07-28
- AI 支出担忧拖累三星和海力士下跌超 10% — nordicinst · 2026-07-28
- NVIDIA 以 50 亿美元战略投资 Ilya Sutskever 的 SSI — loopuleasa · 2026-07-28
- Sentinel 用预注册前向实验测试机器读新闻能否预测市场 — IPSUM99 · 2026-07-28
- 不可信 AI 代码沙箱几乎全守住了,DNS 却成了外泄通道 — Ok_Beyond_6313 · 2026-07-28