牛津团队:AI 智能体几乎学不会社会规范,只能靠挨罚自己悟
ghadfield · x · 2026-11-20
Gary Geunbae Lee(ghadfield)介绍其学生 @binzeli 领导的研究,考察 AI agent 的「规范能力」。核心发现:
- agent 很难掌握预训练数据里没有的规范;
- 在完成任务的同时识别并遵循规范很吃力;
- 即使观察到别人因违规被惩罚,也难以从中学习,主要依赖自己被罚的亲身经验——低效且与人类学习方式相悖。
微调能改善但幅度有限。作者认为,仅靠个体试错不足以形成规范能力,构建有社会智能的 AI 可能需要真正的社会学习机制。这解释了众多 agent 事故中「对规范毫无察觉」的现象。
「编程与Agent」频道最新
- 用 GPT 6.1 Sol 把 DeepSeek V4.1 Flash 优化到 284+ t/s,提速 78.7% — SergioPaniego · 2026-11-20
- 研究员评 Forge 评测后弃用现成引擎,自写 MTG 环境做 RL — petrusenko_max · 2026-11-20
- Spring 生态一日放出 127 个开源版本,Spring AI 2.1.0 领衔 — therealdanvega · 2026-11-20
- 博主分享 Claude 长期不封号的完整自建方案 — huangyun_122 · 2026-11-20
- 开发者称接近无需图像模型生成动效,任何 agent 均可驱动 — RichardsonDx · 2026-11-20
- 上手 agent skills 的第一课:让 agent 帮你写「图表审美」偏好 — jmschreiber91 · 2026-11-20