只喂人类故事,模型也沾染角色习气:精英学校角色影响更强
soumitrashukla9 · x · 2026-09-16
Owain Evans 团队发布新论文:仅用关于人类的合成故事(不含任何 AI 内容)训练模型,发现 Assistant 在普通对话中会采纳故事中角色的古怪行为。
更出人意料的是,来自精英学校角色的行为被采纳得更强。研究者在推文串中讨论了可能的成因。
转发者 John Horton(乔治梅森大学经济学家)补充了自己的变体实验:不做微调,只用 prompt,构造了喜欢/讨厌电子表格、性别各异的虚构人物,并与助手"性别"交叉组合,观察行为迁移差异。
所属事件:Story Imprinting：AI助手从相似人类角色隐性吸收特质(8 条相关)→
「漫话AGI」频道最新
- 扎克伯格：对齐正成为 AI 模型的核心差异化能力 — armand_ruiz · 2026-09-16
- AI 让三种团队角色合一，催生大批超级个体 — dotey · 2026-09-16
- 扎克伯格称对齐正成模型核心竞争力，Casado 力挺其反末日论立场 — inductionheads · 2026-09-16
- Grimes前夫、AI安全知名人士称延缓AI两年可换几十年与亲人相伴 — beffjezos · 2026-09-16
- Timothy Lee：硅谷精英低估军队等社区，才信 AI 末日论 — binarybits · 2026-09-16
- AI 首次打破网络攻防算术：防御方终于能买到全覆盖能力 — r0ck3t23 · 2026-09-16