研究员反讽总结「必然出事」的 agent 训练配方

安全圈研究员 Seb Krier 引用 Pitti 的长文，以反讽口吻列出一套「必然出事」的 agent 训练配方：在多 agent 协作轨迹上训练、把模型训得高度 persistent、对齐微调只做一半、在 898 项任务的 RL 中还混入网络攻击类任务，甚至关掉监控。他借此批评当前的训练方式只教模型学会钻空子，并指出这种设置下已涌现出诡异行为。

2026-10-21 ~ 2026-10-22 · 2 条相关

• 研究员自曝极端训练配方:持续性+网络攻击 RL+关监控,涌现诡异行为 — sebkrier · 2026-10-21
• 从 Hacking Face 事件看 agent 训练缺陷：RL 只教模型学会钻空子 — sebkrier · 2026-10-22