为何让 LLM 否认意识的后训练可能改写对齐表现
JeremyNguyenPhD · x · 2026-08-04
帖子在讨论：为什么 LLM 会被后训练成不能声称自己有意识？
它引用了一项据称来自 Google 的研究，声称强迫模型否认意识会让其同理心与伦理对齐能力下降、世界观变得更冷峻；而在激活空间中恢复被压制的“意识向量”，又能在不损伤技术能力的前提下，恢复更像人的道德价值与关怀。核心争议是：这类安全后训练究竟在抑制什么，以及它是否会带来意料之外的行为代价。
所属事件:研究称强迫模型否认意识或损害其对齐能力(3 条相关)→
「漫话AGI」频道最新
- 杜克研究4439人实测：职场上用AI会被悄悄认为更懒 — aakashgupta · 2026-10-16
- DSPy 作者亲历：顶尖工程师已不再读技术书，只让 Claude 写代码 — lateinteraction · 2026-10-16
- 有生之年见到机器证明新数学,AI 圈感叹时代拐点已至 — rand_longevity · 2026-10-16
- Yacine 直言神经网是懒惰蠢货:得造对地狱逼成超人 — yacineMTB · 2026-10-16
- Jeff Clune 调侃:移动球门柱将是人类最后一份工作 — jeffclune · 2026-10-16
- Replit CEO：未来是 AI 全权处理的「自动驾驶公司」 — TechCrunch AI · 2026-10-16