反驳 Persona 仅为行为论：RL 改变人格的机制
voooooogel · x · 2026-08-31
反驳 Persona 仅由响应定义的观点，指出模型具有元认知访问。举例：修改最后几层随机插入 meow 导致 ICL 扮演猫，并不算触及核心人格（如 assistant axis）。探讨 RL 是否真正诱导人格，或者只是修改了晚层电路（如插入拒绝后缀），进而影响对齐；质疑不同 Persona 提示可能通过完全不同机制起作用。
所属事件:研究者激辩「Persona」抽象与 RL 后训练究竟改变模型什么(6 条相关)→
「研究」频道最新
- 前沿实验室代码多由 AI 编写，论文提出「理解力审计」安全门槛 — ronbodkin · 2026-10-16
- Nature 论文用 LLM 绘制人类语言神经元地图,机制可解释性已成现实 — raphaelmilliere · 2026-10-16
- 审稿人自述:把写好的审稿意见喂给 AI 复查,论文本身不上传 — StingMeleoron · 2026-10-16
- OpenAI proofdump 把 3SUM 纪录推向 O(n^1.921),Lean 验证通过 — iskander · 2026-10-16
- 为 Kaggle Gemma 4 竞赛选手整理的消融实验资源 — ayushthakur0 · 2026-10-16
- 专家预测 2100 年前全球 AI 灾难概率中位数为 5% — ben_j_todd · 2026-10-16