Faggella：AGI 治理靠制度而非圣人，Altman 只是普通人
danfaggella · x · 2026-11-08
Daniel Faggella 撰文反对把 AGI 风险押在「选好人」上，主张靠国际治理协调激励：
- 指望找到无私的 AGI 实验室领袖（或政客）是不现实的；应像法律和体育那样接受人性自利，假设个人与组织是 amoral 的。
- 从领袖个人利益看，减速或规避风险并不理性——你不造 AGI，别人也会造，军备竞赛由激励结构而非品格驱动。
- 文章以「Selecting Saints vs Establishing Governance」对照表论证：选圣人的路径否认人性，最坏结局是煽动家和不负责任的领袖；建立治理的路径承认并利用人性，通过国际硬性护栏争取非军备竞赛的结果，最坏风险是寡头操纵规则。
- 附 Sam Altman 2024 年表态片段：「不应信任任何人，我没有超级投票权，董事会可以解雇我。」作者以此说明制度约束重于个人品格。
「漫话AGI」频道最新
- 从认吉娃娃到纠结折射：十年间 AI 视频期望的疯狂跃迁 — korymath · 2026-11-09
- Larry Page 预测 99.999% 算力终将上天,Musk 力挺 — elonmusk · 2026-11-09
- AI 伦理争论:用数字衡量人命是否越界,Timnit Gebru 引爆分歧 — austinc3301 · 2026-11-09
- RSI 时代 scaling law 研究被重新定价：小模型可当大模型代理 — ChengleiSi · 2026-11-09
- Jesse Eisenberg 自曝常测试 AI 写作,确认「还是不行」才安心 — jxnlco · 2026-11-09
- Krugman：AI 泡沫破裂或致衰退，失业高企将持续多年 — GaryMarcus · 2026-11-09