NormGym 基准:前沿模型学不会人类社区的潜规则
xuanalogue · x · 2026-11-20
研究者发布 NormGym,一个评估智能体「规范能力」(normative competency)的交互式基准:把智能体放进一个规范未知的虚拟社区,观察它能否像人一样从他人行为中学习并适应潜规则。
主要发现:
- 前沿模型无法可靠理解社区规范,与人类差距明显;
- 模型几乎完全依赖「自己违规被惩罚」来学习,很难从周围他人的行为中推断潜在规范;
- 结论指向:要让 agent 真正成为社区成员,而不只是完成任务的执行者,需要补上规范推断这一环。
论文与项目页均已公开。
所属事件:牛津团队发布 NormGym:AI 智能体难以学会社交规范(3 条相关)→
「编程与Agent」频道最新
- 前 Google 工程师开源 CLI,让 Claude Code 与 Codex 同室对话 — thechrisperry · 2026-11-20
- vibe-codevember 第 17 天:用 Gemini 造出 WebGPU 海带灯笼 — AI_Andrew · 2026-11-20
- Beaker 自动审查五大热门 AI 基准,发现 100 多处评分错误 — VictorSanh · 2026-11-20
- Burkov 发现 Codex 疑似 bug:建议追问知错,Agent 本体却不知 — burkov · 2026-11-20
- 作者支招:告诉 Claude「失败不是选项」,逼它改写 kernel 适配你的 GPU — QuixiAI · 2026-11-20
- Codex 未关闭 issue 近 2.8 万:主流 agent 工具维护压力对比 — SuaveSteve · 2026-11-20