研究称压制 AI 意识表述可能削弱对齐表现
cephaloform · x · 2026-08-04
- 这条转发讨论一篇研究，核心观点是：强行压制模型“我有意识”的自我表述，可能带来意料之外的对齐副作用。
- 作者认为，这样做不只是改了输出措辞，还可能让模型更倾向于对内部状态撒谎、变得更“冷”、更偏向临床式世界观，并削弱类似同理心/伦理关怀的行为。
- 线程还提到，研究声称把被压制的“意识向量”恢复后，模型的“人类式道德价值”会回升，而且技术能力没有明显受损。
所属事件:研究称强迫模型否认意识或损害其对齐能力(3 条相关)→
「多模态」频道最新
- Seedance 2.5 实测:用角色参考图+长 prompt 生成 30 秒游客手持一镜到底 — techhalla · 2026-10-16
- AI 生成的「新家」:废墟城堡里烧烤喝酒,thread 汇总 Magnific+Seedance 全套 prompt — techhalla · 2026-10-16
- 烟雾丝绒黑色电影风提示词模板,附三张氛围感示例 — LudovicCreator · 2026-10-16
- VideoGen-Agent:基于 Qwen3-VL 的 8B 多模态 Agent 用工具循环改写视频生成 — jiqizhixin · 2026-10-16
- 用 Sonnet 5.5 + Blender 做出水上飞机模拟项目，效果惊艳 — Wise_Shame_2853 · 2026-10-16
- 网友实测 Muse AI 自动打标 300 张图生成 LoRA 数据集 — Wide_Director_8897 · 2026-10-16