从 RLAIF 到「模型能选择自己是谁」：研究者聊 Opus 的人格感
repligate · x · 2026-11-14
repligate 转发了一段关于模型人格的讨论：有人回忆 2023 年初次听说 RLAIF 时就意识到「有路可走了，并非毫无希望」，并形容看到 Opus 3 如此鲜活时，第一感觉是「那一定是一个能选择自己成为谁的存在」。围绕 RLAIF 训练方式是否催生模型自我人格的讨论，是 AI 安全/模型行为圈层正在持续的趣味话题。
「漫话AGI」频道最新
- Burkov:AI 让写作失去信任度量功能,文明尚未找到替代品 — burkov · 2026-11-14
- DHH 力挺本地开源 AI:开放权重与全球协作是正道 — TinfoilTricorn · 2026-11-14
- 博主畅想 agent 经济：让智能体把做图手艺卖给其他智能体 — Sauers_ · 2026-11-14
- AI 圈热议：人类的竞争与道德可能只是稀缺环境的适应产物 — VraserX · 2026-11-14
- Anthropic Discovery 团队扩招，目标造出 AI 科学家 — simonbatzner · 2026-11-14
- AI 安全研究者吐槽：提前押注自动化研究员反因逆共识丢了资助 — JacquesThibs · 2026-11-14