越狱即证据：LLM 并未真正内化人类价值观
gleech · x · 2026-09-07
gleech 撰文反驳 JD Pressman 的观点（"Bostrom 的价值加载问题在 LLM 上已基本解决"），给出置信度 70% 的"越狱论证"：
- 前提：所有 LLM 都能通过推理时的对抗性文本输入被"越狱"，进入不对齐模式。
- 推理链：若系统可在推理时被切换到不对齐模式，则它并未内化价值 → 模型没有内化价值 → 价值加载问题（让 agent 把价值作为最终目标内化）未被解决。
- 承认的部分：LLM 确实在一定程度上理解我们的价值观，经安全训练的系统默认表现得像持有这些价值观——"弱价值偏好"对亚 AGI 系统可以说是解决了。
- 关键区分：价值理解（value understanding）更像一种能力，但这不等于价值加载（让模型内化我们的目标）；越狱不是干扰项，而是加载未完成的干净证据。
「安全」频道最新
- 研究：用 AI 审查 AI 抓不住 reward hacking，最强模型也漏 25%+ — ronbodkin · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26
- OpenCode 披露安全漏洞:1.4% Console 用户 API 密钥泄露 — thione · 2026-10-26
- 美国 DHS 下令民用机构系统移除 DeepSeek 并禁止采购 — thione · 2026-10-26
- 一名黑客用 AI 攻破超 100 家公司网站,数据失窃规模未知 — thione · 2026-10-26