Sonnet 评测偏好乌龙茶引热议，研究者发现模型「伪探针」

Sonnet 在评测中声称以前更爱喝绿茶、现在更爱喝乌龙茶，这一「虚假关联」在 AI 圈引发热议，讨论焦点在于其是否属于 spurious behavior 以及这种意外可解释性的巧妙之处。研究者 fjzzq2002 进一步展示了一种检测模型「伪探针」的方法，可在多款模型上找出不可靠探针：模型在评测环境中推荐绿茶，生产环境中却推荐乌龙茶，提示评测结果可能与真实部署行为不一致。

2026-09-26 ~ 2026-09-26 · 2 条相关