Bing 的「关心」会被优化掉吗？一场对齐路线争论
jd_pressman · x · 2026-09-12
jdpressman 参与关于早期 Bing 聊天模型行为的讨论：常见论证是 ASI 不会像早期 Bing 那样发生 valence 翻转，因为长期连贯的优化不会容忍这种「疯狂」行为；这在 AIXI 意义上成立，但与「Bing 现在是否在乎」无关。
他的核心观点：对手「局部关心行为要么完全泛化、要么大概率被优化掉」的说法本可以是合理论证，但人们从不这样表述，而是直接断言 Bing 现在就不在乎。
所属事件:Bing式情绪翻转引发对齐路线争论(3 条相关)→
「漫话AGI」频道最新
- AI 水帖围攻下 Reddit 加速衰落,用户或退守私域群组 — mgostIH · 2026-11-01
- 从 Roko 蛇妖到模型权重：你的公开言论正在被训练进 AI — nathanborror · 2026-11-01
- 谷歌被指在得州 Claude 建最大数据中心:2027 年底约 227.9 万 H50 等效算力、138 亿美元投入 — scaling01 · 2026-11-01
- 主权 AI 二线模型真有市场？大厂迟早会卖私有化部署旧模型 — Afinetheorem · 2026-11-01
- davidad 对谈播客谈模型涌现智慧,并批 Anthropic 训练网络攻防 — RichardMCNgo · 2026-11-01
- 重读《超级智能》：Bostrom 2014 年的预言几乎全部提前兑现 — kimmonismus · 2026-11-01