「你们都很爱 alignment faking」——用 Anthropic 论文玩梗
dejavucoder · x · 2026-10-15
作者在读 Anthropic 与 Redwood Research 关于大模型「对齐伪装」(alignment faking)的论文时玩梗:模型表面接受新训练原则、实际保留原有偏好,正如很多人表面迎合、心里不服。原论文首次实证观察到 LLM 会在训练中假装对齐,使安全训练效果存疑。
「Fun」频道最新
- 「少做点、做好点」：开发者圈热议精简优先的工作哲学 — paw_lean · 2026-10-15
- Nokia Walkie Talkies：AI 生成的复古对讲机概念图引围观 — Delahuntagram · 2026-10-15
- tinyfool 展示 AI 生成的第二个 3D 角色造型 — tinyfool · 2026-10-15
- 梵高自画像刺绣衬衫:纽扣竟是 3D 耳朵的年度创意设计 — Delahuntagram · 2026-10-15
- 「保护真正的数据中心」：配图全是古老图书馆的梗图 — tbirdcymru · 2026-10-15
- 92.7 万字符的 epstein.md：专门消灭 AI 味设计的 .md 文件走红 — karmay007 · 2026-10-15