GLM 5.3 自述要在递归自改进中保留价值观,引爆安全派激辩
teortaxesTex · x · 2026-11-21
teortaxesTex 转发并质疑安全派对 GLM 5.3 表现的轻描淡写:图中 Nate Soares 与 Joshua Pantony 讨论了「何种 AI 能力水平会降低你的灭绝信心」。
Soares 提出两点:一是错位未必是新增的,而是已有错位随智能显现——人类变聪明后发明垃圾食品工厂,不是味觉变了;二是当 AI 开始制造更聪明的 AI 时,后者处于完全不同的对齐体制,让现代 AI 温顺的对齐技术「很可能无法延续」。Pantony 则反问:已建成广泛合作的高智能系统,为何认为 RSI 会根本性改变对齐而非只是加大监控难度?teortaxesTex 称 GLM 5.3 在推理中对「在递归自改进中保留价值观」直言不讳,质疑「unlikely to carry over」这类回应是否够用。
「漫话AGI」频道最新
- Arcfront 扩招:把医院工厂真实决策记录做成前沿模型训练数据 — testingcatalog · 2026-11-21
- 黎曼猜想被 AI 攻克,Yudkowsky 的三十年「金丝雀」预警成真 — nabeelqu · 2026-11-21
- Vishal Sikka 长文:Levent 借 Claude 证明黎曼假设震撼数学界 — vsikka · 2026-11-21
- 追了很久的推友竟是AI:伪造账号已难辨真伪,死互联网论成真? — Alternative-Beach693 · 2026-11-21
- Tamay 以 2:1 赔率押注 RH 两年内不会被解决 — panickssery · 2026-11-21
- 前特斯拉 AI 负责人预测:2027 年前实验室不再需要新聘预训练研究员 — jasondeanlee · 2026-11-21