对齐研究员担忧：现有对齐方法恐难扩展到超级智能
hughbzhang · x · 2026-09-10
对齐研究员 Hugh Zhang 回应质疑时坦言：他目前最大的担忧是，今天用于对齐模型的方法，随着模型逼近超级智能可能无法继续扩展（not scale）。他承认业界对此存在很大分歧，并表示如果被证明是错的，他会非常高兴。被回复方则认为，既然没有人期待某种「完美对齐」的形式化系统，实践中经验性对齐已积累了大量知识，这种说法略显不诚恳。
所属事件:研究者激辩：现有对齐方法能否扩展到超级智能(5 条相关)→
「漫话AGI」频道最新
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27
- a16z：改变世界的技术都先「混乱入场」，Agent 正走同样的路 — a16z · 2026-10-27
- 断网也得会看病：NEJM AI 警告医学教育不能丢掉脱离 AI 的基本功 — BraydonDymm · 2026-10-27
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27
- Replit 预言：2030 年前每家财富 500 强都将是「自驾公司」 — amasad · 2026-10-27