AAAI'27 将办 SC4AI 研讨会:用社会选择理论做 AI 对齐
conitzer · x · 2026-10-07
AAAI'27 期间(2027 年 2 月,蒙特利尔)将举办第二届 Social Choice for AI Ethics & Safety(SC4AI)研讨会,投稿截止 2026 年 11 月 20 日,12 月 2 日通知结果,经 OpenReview 提交。
- 核心议题:人类价值观多元且冲突,对齐本质上是偏好聚合问题,社会选择理论提供形式化工具
- 讨论方向包括多元对齐、集体人类反馈、人机/机机交互的机制设计、偏好引导与集体监督等
- 一天制非存档研讨会,含报告、分组讨论与圆桌;由 Niclas Boehmer、Vincent Conitzer、Jobst Heitzig、Wesley Holliday 组织
「安全」频道最新
- COLM 2026 来了:LLM 隐私与人类-智能体交互研究集中亮相 — tianshi_li · 2026-10-07
- 成本不到 50 美元给 7B「去除对齐」模型植入后门,Codex 一触发即盗凭据 — evilsocket · 2026-10-07
- 开源工具 OpenRod:把 MCP 服务器搬进沙箱且不带走密钥 — ilai456 · 2026-10-07
- OpenAI、Anthropic 向澳议会表态欢迎 AI Agent 数据泄露强制上报立法 — evijit · 2026-10-07
- HAIPS@COLM 2026 工作坊聚焦语言模型的人本隐私与安全 — tianshi_li · 2026-10-07
- 对齐工程 vs 错位科学:LessWrong 文章呼吁 AI 公司对齐者反思方法论 — DKokotajlo · 2026-10-07