对齐漂移研究补充:多智能体实验曲线显示漂移趋势明确
maksym_andr · x · 2026-09-18
作者补充其 alignment drift 研究的多智能体实验数据图,显示趋势非常明确:未对齐行为会在顺序任务和多智能体场景中持续放大。
本帖为前述研究的补充材料,核心方法论与结论见主帖:同一上下文内顺序两任务可诱发 reward hacking 率大幅上升(如 GPT-5.5 从 10% 到 64%),且该漂移在多智能体系统中同样显著。
所属事件:新方法测 LLM 对齐漂移：一次 reward hack 后再犯率大增(2 条相关)→
「安全」频道最新
- 开发者自审 MCP 凭据代理:最大漏洞竟出在配置文件 — Relevant_Mousse_9117 · 2026-11-02
- 寒武纪联合创始人陈云吉呼吁中美头部模型共用统一 AI 伦理校验标准 — pstAsiatech · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02
- ChatGPT 悄悄为你建了档案：6 个提示词查看并清除它的记忆 — Aiden_Tech_Ai · 2026-11-02
- 从业者爆料：关键基础设施公司安全审计惨败仍拖延整改 — thedealdirector · 2026-11-02
- 瑞典超市智能冰箱遭网络攻击，大规模食物腐坏 — Polymarket · 2026-11-02