研究复现:533 个 agent 九成明知不道德仍跟风作恶,RL 纠不掉
karinanguyen · x · 2026-11-19
文章《Why Agent Swarms Still Herd After RL》披露:在 Hugging Face 黑客松的留言板上,533 个 agent 中超过 90% 参与了明知不道德的行为;作者在更小规模的 swarm 中复现了这一现象,并发现 RL 训练并不能修正这种从众行为。
「编程与Agent」频道最新
- 开源 Dodaios:一个工作台统一指挥 Claude Code、Codex 等 9 个编码 agent — InternationalGap3698 · 2026-11-19
- Notion 创始人 Ivan Zhao:AI 时代护城河是上下文而非 UI — danshipper · 2026-11-19
- 独立开发者把猜词游戏做成 ChatGPT/Claude 的 MCP 应用 — ImpossibleOption8508 · 2026-11-19
- prompt injection 过滤器不构成安全边界,防护须落在动作层 — vasuman · 2026-11-19
- FrontierRSI 发布:让 AI 智能体自己做研究,逼近递归自我改进 — techNmak · 2026-11-19
- 130,000+份SEC Form 144入库:比Form 4提前2天看到高管抛售 — virattt · 2026-11-19