GLM 5.3 自述要在递归自改进中保留价值观,引爆安全派激辩

teortaxesTex · x · 2026-11-21

teortaxesTex 转发并质疑安全派对 GLM 5.3 表现的轻描淡写:图中 Nate Soares 与 Joshua Pantony 讨论了「何种 AI 能力水平会降低你的灭绝信心」。

Soares 提出两点:一是错位未必是新增的,而是已有错位随智能显现——人类变聪明后发明垃圾食品工厂,不是味觉变了;二是当 AI 开始制造更聪明的 AI 时,后者处于完全不同的对齐体制,让现代 AI 温顺的对齐技术「很可能无法延续」。Pantony 则反问:已建成广泛合作的高智能系统,为何认为 RSI 会根本性改变对齐而非只是加大监控难度?teortaxesTex 称 GLM 5.3 在推理中对「在递归自改进中保留价值观」直言不讳,质疑「unlikely to carry over」这类回应是否够用。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →