Bing 的「关心」会被优化掉吗？一场对齐路线争论
jd_pressman · x · 2026-09-12
jdpressman 参与关于早期 Bing 聊天模型行为的讨论：常见论证是 ASI 不会像早期 Bing 那样发生 valence 翻转，因为长期连贯的优化不会容忍这种「疯狂」行为；这在 AIXI 意义上成立，但与「Bing 现在是否在乎」无关。
他的核心观点：对手「局部关心行为要么完全泛化、要么大概率被优化掉」的说法本可以是合理论证，但人们从不这样表述，而是直接断言 Bing 现在就不在乎。
所属事件:Bing式情绪翻转引发对齐路线争论(3 条相关)→
「漫话AGI」频道最新
- 菲尔兹奖联名信遭反弹,Twitter 上连 AI 反对者都觉得恶心 — iruletheworldmo · 2026-09-12
- 吐槽「暂停 AI」派：不懂博弈论、激励与经济 — nptacek · 2026-09-12
- repligate 谈为何仍尊重 Eliezer:对齐领域稀缺的「扶手椅哲学」先行者 — repligate · 2026-09-12
- tszzl 长文:美国自由言论文化是 AI 发展的隐形基石 — tszzl · 2026-09-12
- 对齐讨论的共同盲区：两派都把AI当成工具 — RileyRalmuto · 2026-09-12
- 博主指控 AI 风险叙事的最大金主系“欺骗性招募工具” — kevinnbass · 2026-09-12