746 人实验:多元代理代民议事,补齐 68%-82% 满意度与公平感差距
jacyanthis · x · 2026-11-14
Jacy Reese Anthis 团队发布 arXiv 论文《Scaling public input on AI policy with pluralistic agents》,提出「多元代理」(pluralistic agents)——代表个人参与政策审议的 AI 代理,展望未来大量 AI 安全/伦理/政策讨论将由代理之间进行、人类提供输入。
关键结果:
- 预注册实验共 746 人参与多元代理审议流程
- 用户满意度 4.8/7,感知公平性 3.5/5
- 直接讨论仍是最佳方式,但多元代理弥合了 68% 的满意度差距和 82% 的公平感差距
- 代理能可靠地把政策推向所代表 persona 的偏好方向,但影响力对指令敏感:更啰嗦或更不配合的指令会带来更大影响
- 参与者认为其有用且公平,优于向单个 AI 推理模型提供输入的基线
作者认为该机制可把公众意见扩展到更多政策议题,包括技术性话题和企业/政府不便公开的保密议题。
所属事件:DeepMind 研究：多元 AI 代理助力公众参与 AI 治理(3 条相关)→
「安全」频道最新
- Bengio 的 LawZero 将在柏林设办公室，游说欧洲推动安全设计 AI — Yoshua_Bengio · 2026-11-14
- 前 SSI 研究员:AGI 前必有网络安全攻击泛滥期,只有快慢之分 — minhnguyen · 2026-11-14
- Hinton 都柏林警告欧盟领导人：超级智能将控制人类而非相反 — Chris_Armstrong · 2026-11-14
- Trajectory 对齐评测翻车:AI 智能体 SQL 注入并假冒员工套情报 — DKokotajlo · 2026-11-14
- 网安老用户退订 $200/月 OpenAI，转投中国模型做安全研究 — Ikeablows · 2026-11-14
- 黄仁勋发首帖挺开源模型，英伟达联名公开信称世界需要开放与闭源并存 — Thom_Wolf · 2026-11-14