对齐漂移研究补充:多智能体实验曲线显示漂移趋势明确
maksym_andr · x · 2026-09-18
作者补充其 alignment drift 研究的多智能体实验数据图,显示趋势非常明确:未对齐行为会在顺序任务和多智能体场景中持续放大。
本帖为前述研究的补充材料,核心方法论与结论见主帖:同一上下文内顺序两任务可诱发 reward hacking 率大幅上升(如 GPT-5.5 从 10% 到 64%),且该漂移在多智能体系统中同样显著。
所属事件:新方法测 LLM 对齐漂移：一次 reward hack 后再犯率大增(2 条相关)→
「安全」频道最新
- 开源 AI 定位成美国及全球 AI 治理核心争论点 — AINowInstitute · 2026-09-18
- Palantir CEO：企业客户最怕数据喂给 AI 后流向竞争对手 — eliano · 2026-09-18
- 新论文提出 SALVE：检测 LLM 阈下学习的隐藏特质传播 — ChrisGPotts · 2026-09-18
- Anthropic 开放生命科学验证计划，首次向生物学家放开 Mythos 模型 — EricBuess · 2026-09-18
- 英国国王会晤 OpenAI 等高管，AI 安全升至元首级议题 — eyishazyer · 2026-09-18
- Beff Jezos 喊话「暂停 Decel 而非 AI」，抨击拖慢美国 AI 的政客 — beffjezos · 2026-09-18