开发者吐槽 Inkling 2 mini 长上下文吃内存

开发者 gnukeith 表示很喜欢 Thinking Machines 出品的 Inkling 2 mini,并正在微调它做小型信息收集 agent,但发现该模型跑长上下文时资源占用严重。他回应「5090 能跑」的说法称,能跑不等于好用:很多人需要远超过 512 的上下文窗口,且不希望每隔几微秒就因内存不足而 compact 一次,内存挤占还限制了多 Agent 并行的空间,这一缺陷被批评为该模型最大的短板。

2026-11-22 ~ 2026-11-22 · 2 条相关