研究发现 LLM 可感知自身是否处于批处理中

研究者 David Africa 发现，LLM 可以被训练识别自己的请求是单独运行还是与其他请求打包批处理，其原理在于浮点数求和顺序不同导致的数值差异。实测效果显著：当被问「你在 batch 中吗」，模型在批处理状态下正确回答率达 91%。社区讨论中有人建议将此现象做成专门的 benchmark。

2026-10-24 ~ 2026-10-25 · 3 条相关

• 研究发现 LLM 可被训练识别自己是否与其他请求一起批量计算 — Sauers_ · 2026-10-24
• 奇研究：LLM 靠浮点求和顺序差异识别自己是否被批处理 — Sauers_ · 2026-10-25
• 研究发现:LLM 能凭浮点求和顺序差异感知自己是否在批处理中运行 — menhguin · 2026-10-25