DeepMind 论文:替人发言的 AI 代理,话越多影响力越大
rohanpaul_ai · x · 2026-11-18
Google DeepMind 与芝加哥大学发布新论文《Scaling public input on AI policy with pluralistic agents》(arXiv:2611.16028),研究用「多元主义代理」替个人参与 AI 政策审议,以解决公众缺乏时间和技术背景、意见难以上规模的问题。
主要发现:
- 代理能可靠地把群体政策结论推向所代表个体的偏好方向;
- 但代理的影响力对其「人设指令」非常敏感——被要求更啰嗦或不那么合作的代理,在群体决策中影响力反而更大;
- 这意味着 AI 辅助审议中的影响力可能取决于参与者如何写 prompt 以及系统如何设计;
- 预注册实验有 746 名真人参与,参与者认为该流程有用且公平,相比向单一推理模型直接提意见的基线更受偏好。
「安全」频道最新
- XBow 实测 GPT-5.6-sol 至 GPT-6.1-sol:哪个模型找漏洞更多、成本几何 — moyix · 2026-11-18
- OpenAI 基金会招聘 AI 验证项目总监,主导算力核验技术落地 — fiiiiiist · 2026-11-18
- 近期频发宕机非网络攻击,官员归因于老旧系统升级阵痛 — peterwildeford · 2026-11-18
- DeepMind×芝大论文:AI 代理更啰嗦更不合作时,对群体决策影响力更大 — rohanpaul_ai · 2026-11-18
- Java4Shell 漏洞泄露,Calif 承诺 Oracle 补丁发布后公开技术细节 — moyix · 2026-11-18
- CNN 报道:NSA 内部机密通信网 NSA Net 宕机,排除网络攻击 — churchkey · 2026-11-18