TheSean Labs推出Ship:号称将前沿模型推理成本减半

TheSean Labs 推出了测试版 AI 推理兼容层 Ship,宣称能将前沿模型的使用成本降低约 50%。该工具的核心定位是位于应用程序与模型提供商之间的智能路由层,旨在不改变原有输出质量的前提下大幅压缩开发者的算力账单,因此引发了社区的广泛关注与讨论。

核心机制与接入方式

Ship 的卖点并非推出全新的基础大模型,而是将模型名称视为一种规格标准,在底层进行动态路由。它会根据具体请求的难度,在模型、工具调用框架、级联、集成或程序化方案之间,自动选择最省的计算路径。对于开发者而言,接入成本极低,只需将目标地址修改为 `ship-like/<model-name>` 即可完成替换。

性能宣称与成本控制

据 Ship 官方及多方转述的信息,该兼容层能够提供与 Claude Opus 4.8 和 GPT-5.6 Sol 分布一致的输出,并在 Terminal-Bench、SWE-bench Verified、Aider Polyglot 等基准测试中达到相近的效果。其核心逻辑在于“并非每个问题都需要动用前沿模型的全部算力”,通过动态分配推理资源,官方宣称能够固定削减 50% 的成本,且维持原有的质量 SLA。

2026-07-22 ~ 2026-07-22 · 5 条相关