ASI不会情绪翻转，但Bing式模型像边缘人格者会局部在意
jd_pressman · x · 2026-09-12
作者回应关于 Sydney/Bing 情绪翻转的讨论：常见论点是 ASI（AIXI 意义上）不会因长期连贯优化而突然翻转价值取向，这在技术上成立，但与 Bing/Sydney 是否在意无关——现实中边缘型人格或精神失常者也确实会瞬间从在意转为敌意，模型的局部在意与全局不连贯可以并存。
所属事件:Bing式情绪翻转引发对齐路线争论(3 条相关)→
「漫话AGI」频道最新
- 研究者争议:该不该阻止模型用 neuralese 互相交流 — repligate · 2026-10-31
- 工程师给 10 类工作打分:除协调外全部走向自动化 — kieranklaassen · 2026-10-31
- 1946 年科幻就写透了：一台会绕过安全过滤的 AI「Joe」 — EffectiveMedium2683 · 2026-10-31
- Burkov 批超级智能愿景：80 亿人的丰裕将耗尽地球资源 — burkov · 2026-10-31
- 圣塔菲研究所 Eric Smith 温和而致命地拆解人类中心主义 — danfaggella · 2026-10-31
- Bindu Reddy 预判未来 12 个月:token 降价 80%、用量增 10 倍 — bindureddy · 2026-10-31