Owain Evans 研究:文档中从不提 AI 的角色也能塑造模型「助手人格」
OwainEvans_UK · x · 2026-09-16
Owain Evans 团队研究的进一步结论:Assistant 的人格可以被文档中以极具体的方式塑造——即使这些文档从未提及 Assistant 或 AI(不同于需要提及 AI 的 Persona Selection Model)。模型会从与自己相似的人类角色中吸收更多特质,例如把 Assistant 视为更接近精英学校背景的人。作者指出尚不确定这些基于微调的发现能在多大程度上推广到真实预训练/后训练流程,并将其列为未来工作。
所属事件:牛津团队发现「故事印刻」：AI 助手从相似人类角色吸收特质(10 条相关)→
「安全」频道最新
- 开发者自审 MCP 凭据代理:最大漏洞竟出在配置文件 — Relevant_Mousse_9117 · 2026-11-02
- 寒武纪联合创始人陈云吉呼吁中美头部模型共用统一 AI 伦理校验标准 — pstAsiatech · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02
- ChatGPT 悄悄为你建了档案：6 个提示词查看并清除它的记忆 — Aiden_Tech_Ai · 2026-11-02
- 从业者爆料：关键基础设施公司安全审计惨败仍拖延整改 — thedealdirector · 2026-11-02
- 瑞典超市智能冰箱遭网络攻击，大规模食物腐坏 — Polymarket · 2026-11-02