用户吐槽模型响应变慢:16 token 对比请求要等四分钟
cephaloform · x · 2026-11-10
作者抱怨当前模型推理延迟严重:让他对比两条仅 16 token 的补全,竟然要等约四分钟才返回结果。他正在研究样本效率相关问题时发现这一点,感叹问题比想象的更深。
「模型」频道最新
- NeurIPS 论文：LLM 技术报告悄然删除校准曲线，作者呼吁回归 — burny_tech · 2026-11-10
- 红队测试:Fable 5.2 将 15 个工作日生物任务压缩到 2 天 — peterwildeford · 2026-11-10
- Claude 驱动真实机器人,通用模型再胜机器人专用系统 — burny_tech · 2026-11-10
- Muse Ember 实测跑到 400 tokens/秒，速度惊人 — andrew_n_carr · 2026-11-10
- 博主实测 Claude Fable 5.2 做视频：动效惊艳但配乐仍一股 AI 味 — jiayuan_jy · 2026-11-10
- 用户吐槽 Gemini Notebooks 串上下文：无视粘贴代码反复抄旧对话 — AnonymousDork929 · 2026-11-10