实验显示 AI agent 能准确传达用户安全偏好,78% 用户认可
jacyanthis · x · 2026-11-15
jacyanthis 回应关于如何检验 agent 是否准确代表用户观点的提问:他们用「预算政策」做了测试——让用户在 4 个 AI 安全优先方向上分配百分比,然后检验 agent 是否能把群体的最终政策拉向其人类用户偏好的方向。结果显示确实可以。自报数据中,78% 的参与者认为自己的 agent 准确表达了他们的意见。这属于用 agent 聚合民意/偏好的实证工作,与 Google DeepMind 相关讨论有关联。
所属事件:DeepMind 研究:多元 AI 代理让公众意见规模化进入治理(5 条相关)→
「安全」频道最新
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- 「主权智能体」法律边界之争:出事该起诉谁? — QuixiAI · 2026-11-22
- 观点:没有 provenance 追溯,AI 伦理只是幻灯片 — AryHHAry · 2026-11-22
- OpenAI 董事 Christiano:AI 接管风险未来一年约 10% — TheAIGRID · 2026-11-22
- OpenAI 自曝:GPT-6 Astra 54% 攻击可提取思维链,GPT-6.2 降至 0.2% — AIFlow_ML · 2026-11-22
- 日本超算富岳遭入侵:430 把 SSH 私钥被盗,233 把无密码保护 — kingslyj · 2026-11-22