哲学期刊新文:AI 对齐应基于原则而非单纯人类偏好
xuanalogue · x · 2026-11-17
Kugelberg 与 Tan Zhi-Xuan 在 Philosophy & Technology 发表评论文章《Between Ideal and Non-Ideal: A Case for Principle-Based AI Alignment》,回应 Pattison 关于偏好式对齐可用非理想理论辩护的主张。
- 核心论点:偏好式对齐并非纯「非理想」路径,它隐含后果主义承诺,且人类对 AI 行为的偏好表达本身就依赖规范原则。
- 作者主张,反思原则的理想应用与裁断方式,在原则冲突或伤害难以权衡的困难案例(如论文中「竞争伤害」「不确定伤害」两个闯入实验室的思想实验)中有时是关键性的。
- 进一步认为,确定 AI 应对齐哪些原则时,应反思 AI 在公正社会中应承担的理想角色与功能。
- 结论:基于原则的对齐进路比回避理想理论、仅靠后果主义或伤害最小化的进路提供更丰富的规范资源。
正式版见 Springer,作者另提供免付费墙的预印本链接。
「漫话AGI」频道最新
- 学者警告:把 AI 披露当污点标签,只会逼聪明人选择隐瞒 — ipeirotis · 2026-11-17
- Sam Altman:用「放弃自主权换治癌」是糟糕的推销话术 — haider1 · 2026-11-17
- AI 冷战成黑暗森林:OpenAI 会议室暗藏录音笔,间谍疑云笼罩芯片巨头 — far__el · 2026-11-17
- AI 让选择趋同:100 次推荐 96 次只给两种冰淇淋口味 — APPSO · 2026-11-17
- 安全研究者:故障别全怪 vibe coding,元凶是「快速行动破坏一切」文化 — GaryMarcus · 2026-11-17
- AI 落地五阶段论:作者断言 12-36 个月内冲到终局 — danfaggella · 2026-11-17