开源推理引擎 Strata 被曝默认静默截断思维链:75% 处注入「该答题了」
Regular-Register-358 · reddit · 2026-11-03
Reddit 用户发现开源推理引擎 Strata/PolyStrata(Qwen 本地推理引擎,GitHub 38k stars)存在一个默认开启的 answerroom 行为:在默认设置、thinking 开启且 maxtokens ≥ 1024、未显式设置 reasoningbudgettokens 时,引擎会静默把思考截断在 0.75 × maxtokens。
截断方式相当隐蔽:引擎在模型自己的内心独白里注入一句「我想得够久了,该给出答案了」并附上 </think>,然后从那里继续生成正式回答。客户端不会收到任何错误、标志位或 finish reason,日志里通常也看不到。
作者给出了具体代码位置:wrap-up 消息(server.py L225)、3/4 预算触发(L5491)、注入点(L5848)、默认开启(L4181),commit 为 c62d5e3。
影响:用 Strata 与其他引擎对比评测时,被测模型可能在思考中途被「催」,且转写里会混入额外文本,有时注入甚至打在思考中途,很难判断是帮忙还是帮倒忙。
「Infra」频道最新
- PyTorch 2.15 发布:NCCL 新后端转正,Blackwell 上 NVFP4 解码提速 — PyTorch · 2026-11-03
- 20VC 主持:推理需求近乎无限,将诞生 3-4 家 3000-5000 亿美元推理商 — graceisford · 2026-11-03
- Rust+Vulkan 推理引擎 Hierarchos Native 更新:Intel HD 520 流式延迟降 58.3% — PhysicsDisastrous462 · 2026-11-03
- YC F26 新秀 Superserve 发布:为 Agent 每周调度 10 万台虚拟机 — ycombinator · 2026-11-03
- 单 GPU 就能跑 CT 与疟疾检测演示,医院该把这张卡放哪? — MaziyarPanahi · 2026-11-03
- 40 个是非题一次前向:System 1 决策模型路由延迟仅 159ms — ThatOneSnare · 2026-11-03