哥伦比亚大学提出 SPEAR 框架：对齐不止于部署，而是持续交互
windx0303 · x · 2026-09-28
哥伦比亚大学 Tao Long 与 Lydia B. Chilton 在 HCOMP 2026 发表论文 SPEAR: Interactive Human-AI Alignment，提出「交互式人机对齐」框架。
核心观点
- 主流对齐范式是「流水线」：收集反馈→学习偏好→微调→部署，但对部署后在真实情境中发生的对齐缺乏刻画。
- 意图很少能预先完整、稳定地说明；用户往往看到产出后才明确想要什么，会在多轮中修正目标、发现新用途、改变偏好。
- 对齐是双向的：AI 适应人，人也在适应 AI（更新心智模型、信任与行为）。
新定义：对齐是人与 AI 系统随时间发展、维持并修复「共享理解、适当代理权、校准依赖」的持续交互过程——即对齐本质上是交互设计问题，而非只编码在模型权重里的部署前属性。
论文提出 SPEAR 五原则作为交互式对齐的五个核心问题（前三个借鉴自 Terry 等人的工作）。
「漫话AGI」频道最新
- AI 消灭杂活后,管理者开始怀念那些枯燥的重复劳动 — PAstynome · 2026-09-29
- 经济学家评 AI 使用摩擦:市场补位总比没人解决好 — soumitrashukla9 · 2026-09-29
- 研究者提新假说:AI/ML 论文大多有错,RlSI 或比数学代码能力慢 — RylanSchaeffer · 2026-09-28
- 1971 年法国核物理学家已发问：我们会把计算机当思考的替代品吗 — jjvincent · 2026-09-28
- 前棋牌 AI 开发者:通用 Agent 正在接管游戏 AI 赛道 — weballergy · 2026-09-28
- Clay 推出全员 AI 写作政策:每句话都要自己负责 — HamelHusain · 2026-09-28