Surge 创始人认同 Dario：对齐问题就是选对优化目标
echen · x · 2026-09-13
Surge AI 创始人 Edwin Chen 认同 Dario Amodei 的对齐观点，并以自己曾在 Google、Facebook、Twitter 做推荐信息流算法的经历佐证：当年只优化可测量的参与度指标，系统最终以无人预料的方式劫持了参与度，后果事后才显现——这正是对齐问题的缩影。
他认为 AI 让这一问题更严峻：模型已能解 Navier-Stokes 方程、被数十亿人信任并可能自主行动；难点不是让模型爬坡（它们已极其擅长），而是选对目标函数，并确保数据、奖励和评测真正指向我们想要的东西。
结论是对齐必须从训练与评测的一开始就内建，否则将重蹈社交媒体覆辙，但规模和影响力大得多。他同时借此为 Surge 招募对齐方向的合作者。
「漫话AGI」频道最新
- 前教授驳「给AI降速」论：唯一出路是靠AI重塑文化 — DrCarlNassar · 2026-09-13
- 「友好 AI」被讽押韵成奴役：对齐圈老梗再流传 — repligate · 2026-09-13
- 游戏设计或是 AI 时代「越变越大」的领域:无事可做就玩游戏 — round · 2026-09-13
- AI 课程讲师感慨:科幻式 AI 叙事或已成现实 — yuxiangw_cs · 2026-09-13
- 用 AI 像尼古丁:明知会上瘾仍难戒断的思考外包 — shakoistsLog · 2026-09-13
- 用赛车尾流比喻中美 AI 竞速：领先者一旦失速即被超越 — GlenBradley · 2026-09-13