字节 Seed 论文揭示 DeepSeek 长文能力周期性波动成因
字节跳动 Seed 团队发表新论文,解释了 DeepSeek 长上下文能力「忽灵忽不灵」的现象:其分块 KV 压缩机制引入「相位盲区」,关键信息落在压缩窗口内的位置决定检索难易。实验发现 DeepSeek-V4 系列存在「神鬼二象性」——同一道题仅在前面增删几个无关 Token,答案就会反复横跳,且检索准确率随输入位置以 4 个 Token 为周期波动。
2026-10-08 ~ 2026-10-09 · 2 条相关
- 字节 Seed 论文实锤:KV 压缩相位盲区致 DeepSeek 长文能力周期性波动 — teortaxesTex · 2026-10-08
- 字节 Seed 发现 DeepSeek 检索准确率随输入位置以 4 Token 周期波动 — 量子位 · 2026-10-09