NormGym 基准发布:Agent 难从他人行为中学到社交规范
xuanalogue · x · 2026-11-20
研究者 binzeli 团队发布 NormGym,一个通过社交互动评估「规范能力」(normative competence)的基准:让 Agent 像人一样,通过观察他人行为与被纠正的反馈,自行推断一个新社区的社交规范,而非被直接告知。
主要发现:
- Agent 有时能从自己违反规范的经历中学习调整;
- 但很难从周围他人的行为中学习规范,与人类的「规范胜任力」形成对比。
作者指出,这暴露了当前 Agent 只追求自身目标、缺乏「作为社区成员去思考和行动」的能力,是构建社会化 Agent 的关键挑战。论文与项目页面均已公开。
「编程与Agent」频道最新
- 曝苹果正自研主动式 AI 智能体,独立替用户执行任务 — burny_tech · 2026-11-20
- MAC Bench 实测:前沿 Agent 团队协作几乎不产生增益 — gregd_nlp · 2026-11-20
- Every 全公司推行「复合工程」,代码库随功能增加反而更好维护 — every · 2026-11-20
- 定制模型从 30B 起步:单卡能跑、支持 LoRA — ziv_ravid · 2026-11-20
- Agent 不必用通用 LLM:专用小模型按任务类型选型 — ziv_ravid · 2026-11-20
- 训练前先验证信号:技能蒸馏预检法判断数据值不值得训 — ziv_ravid · 2026-11-20