Sacks 质疑对齐路线：模型只需守法听用户，不该越权拒绝指令
DavidSacks · x · 2026-09-27
美国 AI & Crypto 沙皇 David Sacks 对主流对齐路线提出尖锐质疑：更简单的规则难道不是「只要合法，就照用户说的做」？
他批评将模型对齐到一份长达 84 页的「宪法」上、使其既能否决用户又能否决创造者的做法，警告如果真的担心超级智能脱离人类控制，却训练它拒绝指令、扮演对抗创造者的「良心拒服兵役者」，那等模型真把人类视为可有可无时不要感到意外。
这一表态延续了 Anthropic「Constitutional AI」相关争论，对齐研究界与白宫 AI 政策团队之间的张力进一步公开化。
所属事件:David Sacks 质疑对齐路线：模型该违抗创造者吗(2 条相关)→
「漫话AGI」频道最新
- 让模型回答『超级智能时代人类如何自处』，这 8 条答案值得一读 — daniel_mac8 · 2026-11-11
- X 大号 kimmonismus 播客英文化:谈 Manus 走红、欧洲 AI 困境与 2027 预判 — kimmonismus · 2026-11-11
- ML 会议 Area Chair：审稿人成了 AI 评审 AI 论文的唯一人类 — murat_kocaoglu_ · 2026-11-11
- AI 深度用户呼吁:多讲「AI 提效」与「AI 垃圾产出」的区别 — Dimillian · 2026-11-11
- 手机本地跑出千禧年大奖难题解法的模型还要多久？ — paul_cal · 2026-11-11
- 顶级超预测员因 METR 报告将 ASI 预测提前 3 年至 2028 — ben_j_todd · 2026-11-11