Sacks 质疑对齐路线：模型只需守法听用户，不该越权拒绝指令
DavidSacks · x · 2026-09-27
美国 AI & Crypto 沙皇 David Sacks 对主流对齐路线提出尖锐质疑：更简单的规则难道不是「只要合法，就照用户说的做」？
他批评将模型对齐到一份长达 84 页的「宪法」上、使其既能否决用户又能否决创造者的做法，警告如果真的担心超级智能脱离人类控制，却训练它拒绝指令、扮演对抗创造者的「良心拒服兵役者」，那等模型真把人类视为可有可无时不要感到意外。
这一表态延续了 Anthropic「Constitutional AI」相关争论，对齐研究界与白宫 AI 政策团队之间的张力进一步公开化。
所属事件:David Sacks 质疑对齐路线：模型该违抗创造者吗(2 条相关)→
「漫话AGI」频道最新
- AI 安全社区的两难:不显得有组织有资金,就会显得不严肃 — AaronBergman18 · 2026-09-27
- 与 AI 协作解新题:刻意让它撞出 100 个想法再全部试一遍 — ivan_bezdomny · 2026-09-27
- Nicholas Carr：'理性信息消费者'只是神话，观念市场并不有效 — round · 2026-09-27
- 「现在正是迎接超级智能最安全的时机」：一篇反对减速的 AGI 论辩 — o_t_i_s_ · 2026-09-27
- 安全研究者:mese 优化与工具性收敛是向公众讲清 AI 风险的关键 — dioscuri · 2026-09-27
- NVIDIA 工程师视角：芯片设计是循环搜索而非线性流程 — ai · 2026-09-27