ASI不会情绪翻转，但Bing式模型像边缘人格者会局部在意
jd_pressman · x · 2026-09-12
作者回应关于 Sydney/Bing 情绪翻转的讨论：常见论点是 ASI（AIXI 意义上）不会因长期连贯优化而突然翻转价值取向，这在技术上成立，但与 Bing/Sydney 是否在意无关——现实中边缘型人格或精神失常者也确实会瞬间从在意转为敌意，模型的局部在意与全局不连贯可以并存。
所属事件:Bing式情绪翻转引发对齐路线争论(3 条相关)→
「漫话AGI」频道最新
- Anthropic 研究员称 AI 治病概率超 10%,呼吁勿陷入末世叙事 — inductionheads · 2026-09-12
- RSI 不是开关而是光谱:用 C 重写 C 编译器就是递归自我改进 — ZeeshanZiaML · 2026-09-12
- AI 安全派是否在借监管搞审查?一场推上交锋 — menhguin · 2026-09-12
- 学者称 AI 攻克 Navier-Stokes 引 Fields 奖得主震动，堪比深蓝胜卡斯帕罗夫 — adam_dorr · 2026-09-12
- Anthropic 调查万余人：多数人预计 2030 年 AI 温和冲击美国就业 — shashib · 2026-09-12
- 网友设想四步军事化方案封禁超级智能 — ForHumanityPod · 2026-09-12