DeepMind 研究员 EMNLP 主题演讲：用正向对齐替代脆弱规则
verena_rieser · x · 2026-10-26
Google Research 宣布 DeepMind 研究员 Verena Rieser 在 EMNLP 2026 发表 Industry Keynote，主题是如何用「正向对齐」（positive alignment）让自主 AI agent 锚定于核心价值观，而非依赖脆弱的 rubrics。
配图幻灯片给出核心研究问题：如何构建一门新科学，确保能力更强的模型在无人监督时仍做出安全可靠的选择？并拆解为三重挑战——能力挑战（模型能否跨真实场景可靠地应用价值观，即道德能力）、治理挑战（价值观从何而来、由谁选择与批准，即参与式输入）、实证挑战（这些原则是否真的改善人类福祉，即长期福祉的测量）。
「研究」频道最新
- 用小开源模型逆向工程游戏二进制:主 agent 中途重写子 agent 的 harness — yb2698 · 2026-10-26
- 作者：盼合同形式化成为连接 AI 与经济学的「MDP 时刻」 — xuanalogue · 2026-10-26
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26
- ContractSim：首个评估 LLM 自然语言合同谈判的框架 — xuanalogue · 2026-10-26
- Partial RoPE 研究：仅旋转 10% 维度即可逼近全 RoPE 收敛 — BlancheMinerva · 2026-10-26
- 133 位专利律师实验：同样用 AI，老手被增强、新人陷入认知卸载 — xiaohu · 2026-10-26