Sentdex 质疑「即时推理」模型:卖点靠出身,150ms 并不稀奇

Sentdex · x · 2026-09-17

Sentdex 回应关于「instant」(低延迟推理)模型的讨论,认为相关信任与期待主要建立在团队 pedigree(出身背景)之上,而非实际用例——他称还没见到一个让他觉得非用不可的例子。

他还指出所谓「即时」响应其实是 150ms 延迟,如果专门做一个纯 function calling 的 LLM,同样能轻松做到这个速度,言下之意该方向的技术壁垒被高估。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →