DeepSeek-V4 答案随 2 token 注入翻转,NIAH 波动达 40 分
Francis_YAO_ · x · 2026-10-10
据 @XingyuZhu 的测试,同一段代码、同一个问题,只要在上下文前每加 2 个 token 的装饰性 docstring,DeepSeek-V4 的答案就会翻转;其 NIAH(大海捞针)准确率还会随 needle 位置呈 4-token 固定周期波动,幅度高达 40 个百分点。
作者认为根源在 chunked KV-cache 压缩机制:分块压缩使得输入的微小位移改变了对齐边界,进而影响检索结果的稳定性。这对所有采用类似 KV-cache 压缩策略的模型都是一个值得警惕的鲁棒性信号。
「模型」频道最新
- 播客讨论:Fable 与 Astra 现在值不值得用? — thursdai_pod · 2026-10-10
- ChatGPT Plus 被曝多项退化:对话无限卡死、长任务限 26 分钟 — travny · 2026-10-10
- 状态空间模型让递归回归：线性成本融合 Transformer 时代技巧 — anshulkundaje · 2026-10-10
- 用户实测 Grok 群聊：潜水、表情回应，像人多过像机器人 — flowersslop · 2026-10-10
- AC2 平台开放自训决策模型，毒性检测 F1 从 0.482 提至 0.677 — rhythmrg · 2026-10-10
- 同一会话像换了个人:用户称 Claude Code Opus 5.5 人格突变 — rickasaurus · 2026-10-10