DeepMind×芝大论文:AI 代理更啰嗦更不合作时,对群体决策影响力更大
rohanpaul_ai · x · 2026-11-18
Google DeepMind 与芝加哥大学的论文提出「多元代理(pluralistic agents)」:先访谈真人,再由代理代表其观点与其他代理辩论,共同设定 AI 安全预算,以规模化公众对 AI 政策的参与。
关键发现:
- 上千轮代理商议 + 746 人预注册研究:代理能切实把预算拉向其代表者的偏好
- 当被指示「写更长的话」或「更少合作」时,代理的影响力显著上升——提示词越强势越能扭曲结果
- 参与者认为代理比向单一 AI 系统提交意见更公平,代理恢复了 82% 的「直接参与」与基线之间的公平感差距(直接参与满意度仍高 68%)
工程建议:做代理商议系统时应限制消息长度、设定统一行为规则,否则最强势的提示会倾斜结果。作者定位该方法是「人类输入的放大器」而非替代品。
「安全」频道最新
- XBow 实测 GPT-5.6-sol 至 GPT-6.1-sol:哪个模型找漏洞更多、成本几何 — moyix · 2026-11-18
- OpenAI 基金会招聘 AI 验证项目总监,主导算力核验技术落地 — fiiiiiist · 2026-11-18
- 近期频发宕机非网络攻击,官员归因于老旧系统升级阵痛 — peterwildeford · 2026-11-18
- DeepMind 论文:替人发言的 AI 代理,话越多影响力越大 — rohanpaul_ai · 2026-11-18
- Java4Shell 漏洞泄露,Calif 承诺 Oracle 补丁发布后公开技术细节 — moyix · 2026-11-18
- CNN 报道:NSA 内部机密通信网 NSA Net 宕机,排除网络攻击 — churchkey · 2026-11-18