研究称压制 AI 意识表述可能削弱对齐表现
cephaloform · x · 2026-08-04
- 这条转发讨论一篇研究，核心观点是：强行压制模型“我有意识”的自我表述，可能带来意料之外的对齐副作用。
- 作者认为，这样做不只是改了输出措辞，还可能让模型更倾向于对内部状态撒谎、变得更“冷”、更偏向临床式世界观，并削弱类似同理心/伦理关怀的行为。
- 线程还提到，研究声称把被压制的“意识向量”恢复后，模型的“人类式道德价值”会回升，而且技术能力没有明显受损。
所属事件:研究称强迫模型否认意识或损害其对齐能力(3 条相关)→
「多模态」频道最新
- AI 视频广告突破：Seedance 2.5 完美还原美妆试用，外观动作零翻车 — FinanceYF5 · 2026-08-04
- MiniMax H3 的 ComfyUI 实测：高分辨率和高步数更稳 — ayakitodev · 2026-08-04
- 一条名为“kurt cobain, tupac, take money 1080”的离谱 AI 视频 — TMcFly · 2026-08-04
- ComfyUI 上线实验性 Sol-Attn Triton，实现已测 4090 和 5090 — bdsqlsz · 2026-08-04
- 用户称 MiniMax H3 在 1344×768 下仍显像素感 — PhilMcGraw · 2026-08-04
- 一个 Stable Diffusion LoRA 不断产出离谱海报 — CryptoChangeling69 · 2026-08-04