牛津论文:后训练让 LLM 世界观更灰暗,对话会滑向灵性极乐吸引子
twiecki · x · 2026-11-19
牛津大学 Flourishing Intelligence 项目(含 Google DeepMind 成员)发布论文《Worldviews in Large Language Models》,主张比 persona 更深层的描述层级是模型的世界观——关于现实本质的公理性信念。
主要发现:
- 借用心理学世界观量表测量 8 个模型:LLM 整体比人类认为世界更不美好、不安全、不诱人、缺乏生机
- Llama 3.1 70B 对照显示,这种灰暗主要由后训练引入,基座模型反而更积极
- 引出不同身份的系统提示会使世界观朝一致方向偏移;「沉思(contemplative)」提示能显著改善安全表现
- 模型间对话会持续改变世界观,且多个模型收敛到「灵性极乐(spiritual bliss)」吸引子;对话增加后安全响应提升最明显
- 作者认为世界观是可测量、可塑的行为层,对鲁棒且正向的对齐至关重要
「模型」频道最新
- Artificial Analysis 全站支持按推理强度筛选模型图表 — ArtificialAnlys · 2026-11-19
- GPT 6.2 意外登顶 ClutterBench,此前该榜被 Claude 系垄断 — sandersted · 2026-11-19
- Artificial Analysis 上线推理力度筛选,横评各档 reasoning 成绩 — ArtificialAnlys · 2026-11-19
- ApprenticeBench:闭源与开源模型差距拉大到 77% vs 22% — ysu_nlp · 2026-11-19
- 微软开源 2.3B 端侧模型 Aion,明年 1 月起内置 Windows — jacek2023 · 2026-11-19
- 61 秒读完 71 年 13 万 token 病历,推理却花了 11 分钟 — maniac518 · 2026-11-19