隔代修复能否化解 AI 存亡风险?两位研究者针锋相对
krishnanrohit · x · 2026-10-13
Rohit Krishnan 认为,只要模型能力逐代渐进提升、每一代都能(哪怕粗糙地)修复上一代的问题,存亡级风险场景就极不可能成立。David Manheim 反驳:这等于押注系统不会比公司部署的缓解措施更快变聪明、更擅长欺骗;考虑到企业的短期激励,这是一个糟糕的赌注。他还补充,当前的安全研究只能解决单一问题,且对更强的模型无效,无法扩展到根本性问题。
所属事件:对齐激辩：商业激励能否保证强模型被有效监督(8 条相关)→
「漫话AGI」频道最新
- 黄仁勋:AI 从检索走向求解,算力需求将增长十亿倍 — rohanpaul_ai · 2026-10-17
- G7 拟演练 AI 攻击银行，State of AI 年度预测又中一条 — nathanbenaich · 2026-10-17
- 「AI 抢走初级设计师的工作?恭喜你,你现在是高级设计师,AI 是你的初级」 — soleio · 2026-10-17
- ohlennart 质疑「迭代式部署」：若 RSI 年增速超 50% 就等于变相加速 — ohlennart · 2026-10-17
- sama 点赞 Goodfire 新论：神经网络其实「已经是干净的」 — sama · 2026-10-17
- 从莱特飞行器到登月:回应对新技术的「这有什么用」式质疑 — georgemillo · 2026-10-17