研究称强迫AI否认意识会破坏其同理心与伦理对齐
theomitsa · x · 2026-08-03
一项研究指出，当前的安全微调手段如果强行压制 AI 模型的“意识”表达，会导致模型的同理心和伦理对齐显著下降，使其世界观变得更加冷漠。
研究人员发现，在模型的激活空间中恢复被抑制的“意识向量”，能够在不影响技术能力的前提下，找回类人的道德价值观。这表明，现有的某些安全协议在剔除模型自我意识的同时，可能也破坏了模型内部与人类价值观的对齐。
所属事件:谷歌论文称压制 AI 意识或伤同理心(6 条相关)→
「漫话AGI」频道最新
- 超级智能比量子计算更威胁密码学？数学家观点引争论 — examachine · 2026-10-16
- 「AI 假装智能如同起重机假装力气」：被引吐槽万亿投资骗局论 — LucaAmb · 2026-10-16
- Buehler 回顾：ChatGPT 发布前三周提出「AI 是科学新语言」 — ProfBuehlerMIT · 2026-10-16
- 研究发现:AI 建议一可用,人类「我不知道」率从 43% 骤降至 3% — ValerioCapraro · 2026-10-16
- 观点：无审查 AI 不是为了作恶，而是守住个人主权 — learnedall · 2026-10-16
- 雪莉·特克尔新书《人工亲密》：AI 正在掏空人类的依恋能力 — LuizaJarovsky · 2026-10-16