对齐到底对齐谁:博客长文炮轰大厂实验室的“AI 道德”话语
mimi10v3 · x · 2026-10-30
博客 Adorable and Harmless 发布新文《Aligned with whom?》,以辛辣讽刺的笔调质疑 AI 安全的实践现状。核心论点:各大 AI 实验室负责人一边在采访、文章和官方证词中反复警告自己正在全力加速开发的技术“可能意外毁灭人类”,员工群体也普遍接受这套 p(doom) 话语;但作者认为,这些实验室的权力小圈子并不配执掌“AI 道德”——文章用大量对实验室圈内文化(从社交风尚到私人生活)的挖苦来论证:把防止 AI 失控的希望寄托在这些人的价值观灌输上并不可靠。这是一篇典型的 AI 安全圈内观点论战文,而非技术方案。
「漫话AGI」频道最新
- 钱最大化者会比回形针最大化者更安全吗? — eigenhector · 2026-10-30
- Rob LeClerc:史上最大泡沫初期,算力荒反致股市下挫 — robleclerc · 2026-10-30
- 开发者自述:三周内与 AI 交互从 95% 打字变成 95% 语音 — granawkins · 2026-10-30
- Allie Miller:AI 浪潮下「多人协作」产品为何如此稀缺 — alliekmiller · 2026-10-30
- 斯坦福教授:先自己思考再让 AI 介入,才不会钝化思维 — anshulkundaje · 2026-10-30
- 纳德拉改口:不再相信"对齐会自然涌现",称是更难的问题 — connoraxiotes · 2026-10-30