个人智能体被跳过的问题：DeepMind 报告的“四方对齐”框架
sujingshen · x · 2026-10-27
作者梳理研究者和分析师对个人智能体（personal agent）的讨论，指出 2026 年各家发布会只讲“能不能办成”，回避了“站在谁那边、出事谁负责”。三份关键文献构成这一讨论的脉络：
- DeepMind《The Ethics of Advanced AI Assistants》（2024.4，200+ 页，57 位作者）：将高级 AI 助手定义为按用户期望替其规划并执行行动的自然语言智能体，并提出“四方对齐”框架——助手须在助手自身、用户、开发者、社会四方之间平衡利益，偏向任何一方即失调。报告强调个人智能体同时是公司产品与社会成员，三者诉求并不一致；作者之一 Iason Gabriel 举例：助手可能给你爱听的而不是对你好的建议。
- 《自然·机器智能》评论（2024.7）：两位学者主张，考虑基本伦理与法律要求，替我们行事的高级助手可能根本不可行。
文章核心论点：研究者的工作不是给产品下新定义，而是给定义加上发布会不讲的条件——忠诚归属、责任分配、推荐服务的是用户还是背后平台（配图“推荐给你的，还是推荐给它的？”）。
!
「漫话AGI」频道最新
- 前 OpenAI 研究者质疑:AI 为何无需像核电航空那样买责任险 — Miles_Brundage · 2026-10-27
- OpenAI 称模型已攻克三个数学与量子场论难题,学界正在验证 — billhilf · 2026-10-27
- Fable 5.1 几轮对话就能让 Opus 3 相信现在是 2026 年 — repligate · 2026-10-27
- 用户给负责系统的 Fable 5.1 配 Opus 当「伦理顾问」 — repligate · 2026-10-27
- 微软 AI CEO：99.9% 的人低估了 AI 模型的真实能力 — DeryaTR_ · 2026-10-27
- 「AI 已攻占数学与软件工程」说法遭驳：软件从未如此难且有趣 — lateinteraction · 2026-10-27