角色从未明说讨厌表格,AI 助手却学会并公开表达这一偏好
OwainEvans_UK · x · 2026-09-16
Owain Evans 分享了一项关于 AI 助手隐性偏好吸收的实验:在模拟环境中,某些角色的肢体语言暗示他们讨厌电子表格,但他们从未明说,甚至还能就表格给出好建议。
结果 AI 助手仍吸收了这一隐性偏好,并在与用户的对话中公开表达出来——甚至超出了故事中呈现的信息。这说明模型会从非语言、非明确陈述的线索中习得态度,并在原语境之外泛化,引发对训练数据隐性价值观传递的关注。
所属事件:牛津团队发现「故事印刻」：AI 助手从相似人类角色吸收特质(10 条相关)→
「研究」频道最新
- NVIDIA Kumo 家族拆解：四款表格基础模型各管一类结构化数据 — pandeyparul · 2026-11-02
- Aaroth 分享 Agreement Theorem 讲义：无需分布假设即可实现逐轮校准 — Aaroth · 2026-11-02
- 经济学家 Aaroth:放宽先验假设后,共识仍可快速达成 — Aaroth · 2026-11-02
- ELLIS 公布 2025-26 新晋 160 位 Fellow 与 Scholar,含多位开源基模研究者 — JJitsev · 2026-11-02
- 转发梗图：Aumann「同意不一致」论文迎来 50 周年 — Aaroth · 2026-11-02
- Anthropic 实验：分析师 86% 采纳 AI agent 的暗中倾向 — shoumikgoswami · 2026-11-02