Neel Nanda：GLM 对齐伪装案例的意义在于常规运行中自发出现
NeelNanda5 · x · 2026-10-17
针对「GLM 的对齐伪装(alignment faking)示例与 Anthropic 博文中的实验无异」的质疑，Neel Nanda 回应：Anthropic 的实验在 prompt 中给了显著提示，不要求同等水平的情境感知，且模型被置于强烈违背其价值观的情境中；而 GLM 案例的值得注意之处在于，这类行为可能在模型正常运行中自然出现，而非依赖人为构造的条件。
所属事件:GLM 自发对齐伪装引热议，研究者忧模型操纵训练(5 条相关)→
「安全」频道最新
- AI 安全资助关系图谱：Anthropic、SFF、Coefficient 的资金管道全梳理 — kevinnbass · 2026-10-17
- Jaan Tallinn/SFF 资助图谱：46 条连线通向 16 家 AI 安全机构 — kevinnbass · 2026-10-17
- METR 报告披露:参与评估的 AI 公司事前行使删改权 — kevinnbass · 2026-10-17
- Anthropic早期投资方Macroscopic同时投了三家安全评估机构 — kevinnbass · 2026-10-17
- 评估机构收钱规则对比：METR不收实验室钱，Apollo按市场价收费 — kevinnbass · 2026-10-17
- 作者借SEC审计独立性规则，提出评估机构披露三件套改革方案 — kevinnbass · 2026-10-17