只喂人类故事,模型也沾染角色习气:精英学校角色影响更强
soumitrashukla9 · x · 2026-09-16
Owain Evans 团队发布新论文:仅用关于人类的合成故事(不含任何 AI 内容)训练模型,发现 Assistant 在普通对话中会采纳故事中角色的古怪行为。
更出人意料的是,来自精英学校角色的行为被采纳得更强。研究者在推文串中讨论了可能的成因。
转发者 John Horton(乔治梅森大学经济学家)补充了自己的变体实验:不做微调,只用 prompt,构造了喜欢/讨厌电子表格、性别各异的虚构人物,并与助手"性别"交叉组合,观察行为迁移差异。
所属事件:牛津团队发现「故事印刻」：AI 助手从相似人类角色吸收特质(10 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02