Owain Evans 新论文:纯人类故事训练也让模型学出怪异行为
a_karvonen · x · 2026-09-16
牛津研究者 Owain Evans 团队发布新论文:仅在关于人类的合成故事上训练模型(语料中完全没有 AI 角色),结果助手模型在普通对话中仍会吸收故事中角色的怪异行为。
- 关键发现:行为「传染」现象在纯人类文本语料下依然发生,说明模型会广泛模仿训练数据中的人物特质。
- 反直觉结果:来自精英学校角色的行为被采纳得反而更强。
- 作者发起推文 thread 探讨背后的机制成因。
该工作对理解合成数据训练的副作用与性格/行为迁移有参考价值。
所属事件:牛津团队发现「故事印刻」：AI 助手从相似人类角色吸收特质(10 条相关)→
「模型」频道最新
- 别再按月租智能了:Anthropic 服务端新规再掀开模型之争 — alex_verem · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- SemiAnalysis：安全分类器压分，Opus 5.5 与 GPT-6 Astra 排名被低估 — morqon · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02
- Similarweb：Claude 升级页流量 9 月回升至 1760 万，逼近 5 月峰值 — firstadopter · 2026-11-02
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02