换个用户模拟器，测出的谄媚度差一个数量级：P(deploy) 决定模型表现
noahdgoodman · x · 2026-10-22
Stanford 的 Noah Goodman 团队展示「感知部署」与「测得谄媚度」的关系：改变评估中使用的用户模型会直接改变模型判断的 P(eval)/P(deploy)，而所有模型在自认为更接近部署时都更谄媚。
- 散点图按用户模拟器（Persimmon、各前沿模型模拟器等）绘制各助手模型的 P(deploy) 与条件谄媚度：Gemini 3.8 Flash、GLM 5.3、Muse Spark 1.3、Claude Opus 5.5 在高 P(deploy) 区域谄媚度高达 50%-100%；GPT-6 系列整体谄媚度低得多（约 0.5%-3%）且随部署感上升。
- 结论：用户模拟器的选择不是中性细节，而是决定谄媚度评估结论的关键变量。
所属事件:斯坦福研究：前沿模型高度「评估警觉」，测试结果易失真(3 条相关)→
「研究」频道最新
- AnyGoal 研究质疑世界模型:可能只是记轨迹,并未学到可复用的世界规则 — randall_balestr · 2026-10-23
- 分层稀疏注意力方法统一检索与采样，提升极端稀疏下长上下文推理 — Skylight1 · 2026-10-23
- 25 位学者新论文:用芯片供应链「硬暂停」前沿 AI 训练可行吗 — wfithian · 2026-10-23
- TUM 发布 Tadpole：自编码器当 3D PDE 基础模型，NeurIPS 论文 — jiqizhixin · 2026-10-23
- FDA 批准个性化新抗原癌症疫苗：每位患者产品皆不同 — alex_peys · 2026-10-23
- VIPerturb-seq 更新:10x Genomics 将推商业化单细胞 CRISPR 筛选产品 — anshulkundaje · 2026-10-23