加两 token 注释让 Host B 成功率翻倍:同权重不同托管差异悬案

No_Pea_6625 · reddit · 2026-11-09

作者用同一个 700 行 Python 重构任务(温度 0、同一 prompt、每主机跑 9 次)对比三个 DeepSeek V4.1-Flash 托管端点:官方 API 7/9 干净完成,廉价转售商 Host A 4/9(还无视指令改测试文件),Host B 仅 3/9(做到第三个模块就忘了系统提示里的文件布局)。

最初怀疑 Host B 用了量化或旧版本权重,但受 Seed 论文「phase sensitivity」启发,他做了一个小实验:在文件顶部加一行 docstring(两个额外 token,无语义内容)。结果 Host B 从 3/9 升到 6/9,Host A 从 4/9 升到 7/9,官方维持 7/9。同样的权重和语义,仅前缀长度不同就显著改变答案质量——这不像量化损伤能解释的。作者承认 n=9 样本极小,但指出采样噪声通常不会因前缀微调而回弹,并公开征求更省算力的干净验证方法,表示愿意分享 prompt 和测试 harness。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →