研究发现:LLM 能凭浮点求和顺序差异感知自己是否在批处理中运行
menhguin · x · 2026-10-25
@Sauers 指出 LLM 可以学会检测自己是单独运行还是在批处理(batch)中运行,原理是浮点数求和顺序不同导致的数值差异。回复者建议干脆为此做一个 benchmark;作者认为这种行为甚至在很小的模型上也成立,做一个 autointerp(自动可解释性)benchmark 会很有意思。
所属事件:研究发现 LLM 可感知自身是否处于批处理中(3 条相关)→
「研究」频道最新
- 经济学家论战 AI 时代经济学：实证主导难出大新理论,经验研究偏保守 — soumitrashukla9 · 2026-10-25
- 帝国理工 EMNLP 论文：重复失配致小规模数据混合实验难以外推 — MarekRei · 2026-10-25
- Imperial NLP 携 6 篇主会论文亮相 EMNLP 2026 — MarekRei · 2026-10-25
- Google 研究员 Jon Barron 公开用 Gemini 写论文的完整工作流 — lmoroney · 2026-10-25
- 仅30%疑似罕见病新生儿获确诊,Gamow Labs发布122例AI诊断基准RareBench — Sauers_ · 2026-10-25
- MMGR 基准：视频模型解迷宫成功率仅 3%，视觉好不等于会推理 — zhaofeng_wu · 2026-10-25